AI_Powered_Chat_bot_with_message_history
1.0.0
该项目是一个对话式检索生成(RAG)系统,允许用户上传PDF文件,提取内容并询问有关上传内容的问题。该系统跟踪聊天历史记录,并根据过去的对话将用户问题上下文化,以提供相关的答案。
该应用程序是为用户界面的简化而构建的,集成了llm(语言模型)的GROQ ,将Chroma作为矢量存储,以处理文档嵌入和检索。对话流程具有聊天历史记录,以实现已有的问答问题。
HuggingFaceEmbeddings创建文档嵌入并检索相关内容。 要运行此项目,您需要以下内容:
克隆存储库:
git clone https://github.com/yourusername/conversational-rag-with-pdf.git
cd conversational-rag-with-pdf创建虚拟环境:
python3 -m venv venv
source venv/bin/activate # On Windows, use `venvScriptsactivate`安装所需的依赖项:
pip install -r requirements.txt设置环境变量:
在根目录中创建.env文件,然后添加您的API键:
touch .env在.env文件中,添加以下内容:
HF_TOKEN=your_huggingface_token
GROQ_API_KEY=your_groq_api_key运行应用程序:
streamlit run utils.py启动该应用程序时,您首先需要输入GROQ API键。这是执行语言建模和问题答案所必需的。
单击“选择一个PDF文件”按钮以上传一个或多个PDF文件。 PDF的内容将被处理并分成块,以有效检索。
上传PDF后,您可以提出与上传文件的内容有关的问题。助手将根据PDF和以前的聊天历史记录提供的上下文回答。
该系统跟踪对话历史记录。您可以查看会话历史记录,助手使用此历史记录在上下文中回答后续问题。
Gemma2-9b-It模型处理提问任务。如果您遇到诸如API密钥错误或文件上传问题之类的问题,请确保以下问题:
pip install -r requirements.txt正确安装。