chat_with_your_docs下载chat_with_your

chat_with_your_docs

其他源码

1.0.0

下载

标题	表情符号	颜色	科洛特	SDK	sdk_version	app_file	固定	执照
与您的文档聊天		蓝色的	灰色的	Gradio	4.41.0	app.py	错误的	麻省理工学院

与您的文档聊天

介绍

ChatWithYourDocs聊天应用程序是一个Python应用程序，可让您与PDF，网页和YouTube视频等多个文档格式聊天。您可以使用自然语言询问有关PDF的问题，并且该应用程序将根据文档的内容提供相关的答复。该应用程序利用语言模型为查询生成准确的答案。请注意，该应用只会回答与已加载文档有关的问题。

它如何工作

chatwithyourdocs聊天应用程序图

该应用程序遵循以下步骤，以提供对您的问题的回答：

DOC加载：该应用程序读取多种DOC类型并提取其文本内容。
文本块：提取的文本分为可以有效处理的较小块。
语言模型：该应用程序利用语言模型来生成文本块的向量表示（嵌入）。
相似性匹配：当您提出一个问题时，该应用程序将其与文本块进行比较，并标识最相似的文本。
响应生成：所选块传递给语言模型，该模型基于文档的相关内容生成响应。

依赖项和安装

要使用您的文档应用程序安装聊天，请按照以下步骤操作：

下载Ollama图书馆

 curl https://ollama.ai/install.sh | sh

拉我们将使用的聊天模型，在这种情况下，我们将使用Llama2，Mistral和Gemma
```
 ollama pull llama2
```
```
 ollama pull mistral
```
```
 ollama pull gemma
```
使用Python 3.9创建新环境并激活它，在这种情况下，我们将使用Conda
```
 conda create -n cwd python=3.9
```
```
 conda activate cwd
```

将存储库克隆到您的本地计算机。

 git clone https://github.com/jorge-armando-navarro-flores/chat_with_your_docs.git

 cd chat_with_your_docs

通过运行以下命令来安装所需的依赖项：
```
 pip install -r requirements.txt
```
为YouTube视频安装FFMPEG：
```
 sudo apt-get install ffmpeg
```

用法

要使用与文档应用程序的聊天，请按照以下步骤：

使用简化的CLI运行main.py文件。执行以下命令：
```
 python3 main.py
```
该应用程序将在您的默认Web浏览器中启动，以显示用户界面。

建筑学

chatwithyourdocs接口

课程：

LLM：此抽象类是不同LLM实现的蓝图。它具有诸如OllamaModel ， OpenAIModel和HFModel之类的子类，可处理特定的LLM提供商（Ollama，Openai和Hugging Face）。
文档：此类管理文档从PDF，网页和YouTube视频等各种来源加载。
矢量站：此类使用LLM嵌入式创建文档的向量表示，以有效检索。
链：此类定义了聊天机器人的处理管道。它可以是一个简单的链，用于基本问题回答或根据对话历史记录搜索文档的检索链。
聊天机器人：此类处理用户互动，维护对话历史记录，并调用适当的链方法来生成响应。
ChatBotController：此类是用户的主要接口。它允许设置LLM模型，文档源和检索选项。它还处理用户查询并与聊天机器人实例进行交互。

功能：

设置：
- 用户从下拉菜单中选择LLM提供商（Ollama，OpenAI或HuggingFace）和型号。可选地，某些提供商可能需要一个API密钥。
- 用户可以选择用于检索任务的文档（PDF，网页URL或YouTube视频URL）。
加工：
- 根据所选的LLM和文档（如果有），控制器配置了处理链。
- 一个简单的链条用于基本问题回答，而无需检索文件。
- 检索链涉及：
  - 使用LLM的嵌入来创建文档的向量表示。
  - 定义提示根据对话历史记录生成搜索查询。
  - 根据生成的查询检索相关文档。
  - 使用检索的文档回答用户的问题。
相互作用：
- 用户在聊天界面中键入他们的问题。
- 控制器调用聊天机器人的predict方法，传递用户的查询和对话历史记录（如果启用了检索）。
- 聊天机器人根据所选链配置检索适当的响应。