AI_Powered_Chat_bot_with_message_history

與PDF上傳和聊天歷史記錄的對話抹布

該項目是一個對話式檢索生成（RAG）系統，允許用戶上傳PDF文件，提取內容並詢問有關上傳內容的問題。該系統跟踪聊天歷史記錄，並根據過去的對話將用戶問題上下文化，以提供相關的答案。

該應用程序是為用戶界面的簡化而構建的，集成了llm（語言模型）的GROQ ，將Chroma作為矢量存儲，以處理文檔嵌入和檢索。對話流程具有聊天歷史記錄，以實現已有的問答問題。

特徵

• PDF上傳：用戶可以上傳多個PDF文件，並處理和索引內容。
• 問題回答：詢問有關上傳的PDF文檔的問題，助手將根據內容回答。
• 聊天歷史記錄：跟踪過去的問題和答案，以將未來的查詢視為上下文。
• 與groq集成：利用GROQ API進行語言建模和響應生成。
• 嵌入：使用HuggingFaceEmbeddings創建文檔嵌入並檢索相關內容。

要求

要運行此項目，您需要以下內容：

• Python 3.7+
• GROQ API鍵
• 擁抱面API令牌

安裝

1. 克隆存儲庫：

   git clone https://github.com/yourusername/conversational-rag-with-pdf.git
   cd conversational-rag-with-pdf

2. 創建虛擬環境：

   python3 -m venv venv
   source venv/bin/activate  # On Windows, use `venvScriptsactivate`

3. 安裝所需的依賴項：

   pip install -r requirements.txt

4. 設置環境變量：

   在根目錄中創建.env文件，然後添加您的API鍵：

   touch .env

   在.env文件中，添加以下內容：

   HF_TOKEN=your_huggingface_token
   GROQ_API_KEY=your_groq_api_key

5. 運行應用程序：

   streamlit run utils.py

用法

步驟1：輸入GROQ API密鑰

啟動該應用程序時，您首先需要輸入GROQ API鍵。這是執行語言建模和問題答案所必需的。

步驟2：上傳PDFS

單擊“選擇一個PDF文件”按鈕以上傳一個或多個PDF文件。 PDF的內容將被處理並分成塊，以有效檢索。

步驟3：提出問題

上傳PDF後，您可以提出與上傳文件的內容有關的問題。助手將根據PDF和以前的聊天歷史記錄提供的上下文回答。

步驟4：管理聊天歷史記錄

該系統跟踪對話歷史記錄。您可以查看會話歷史記錄，助手使用此歷史記錄在上下文中回答後續問題。

示例演練：

1. 啟動應用程序並輸入您的GROQ API密鑰。
2. 上傳包含您要詢問的內容的PDF 。
3. 在輸入字段中輸入一個問題，例如“第3章的摘要是什麼？”
4. 助手將根據上傳的PDF內容做出回應，並提供簡潔的答案。
5. 詢問後續問題，系統將使用過去的對話來提供上下文感知的回答。

關鍵組件

• 簡化：提供用戶界面和形式交互。
• Chroma ：用作存儲拆分PDF文檔嵌入的矢量商店進行檢索。
• GROQ API ：使用Gemma2-9b-It模型處理提問任務。
• Langchain ：管理檢索和文檔組合過程以及聊天歷史記錄處理。

未來的改進

• 添加對其他文檔類型的支持（例如，單詞，文本文件）。
• 改進UI以更好地進行用戶交互。
• 為非英語文檔添加多語言支持。
• 實施一個系統，用於保存和加載跨會話的聊天歷史記錄。

故障排除

如果您遇到諸如API密鑰錯誤或文件上傳問題之類的問題，請確保以下問題：

• 您有一個有效的GROQ API鍵，並且擁抱臉部令牌。
• 上傳的PDF是有效的，可以由PYPDFLOADER讀取。
• 所有依賴項均通過pip install -r requirements.txt正確安裝。

致謝

• Langchain為驚人的檢索和LLM集成框架。
• 簡化提供易於使用的UI框架。