insight chat

洞察力

与

• FastApi -FastApi是一个现代，快速（高性能）的Web框架，用于基于标准的Python型提示，用于使用Python 3.7+构建API。

• LlamainDex -LlamainDex是基于LLM的应用程序的数据框架，可从上下文增强中受益。这样的LLM系统已被称为“抹布系统”，代表“检索成像的一代”。 LlamainDex为更容易摄入，结构和访问私有或特定于域的数据提供了基本的抽象，以便将它们安全，可靠地注入LLM中，以更准确地生成。

• MongoDB Atlas -MongoDB Atlas是由构建MongoDB的人开发的完全管理的云数据库。

• Atlas Vector搜索 - Atlas Vector搜索可让您搜索非结构化数据。您可以使用诸如OpenAI和拥抱面的机器学习模型来创建矢量嵌入，并将它们存储在Atlas中，以检索增强生成（RAG），语义搜索，推荐引擎，动态个性化和其他用例。

注意：您需要创建一个KNN索引来使用Atlas Vector搜索。

• 登录到您的地图集帐户，并找到与矢量存储相对应的集合。如果您使用的是默认名称，则应为“ default_store/default_db”。
• 创建一个Atlas Search中的搜索索引。选择“ JSON编辑器”模式，并设置具有以下内容的索引：

 {
  "mappings": {
    "dynamic": true,
    "fields": {
      "embedding": {
        "dimensions": 1536,
        "similarity": "cosine",
        "type": "knnVector"
      }
    }
  }
}

• 等待几秒钟让新索引生效。

使用Uvicorn运行应用程序

需要

• Python> = 3.10

与诗歌安装：

 pip install poetry
poetry config virtualenvs.in-project true
poetry shell
poetry install

 uvicorn app.main:app --host 127.0.0.1 --port 9080

使用Docker运行应用程序？

 docker build -t insight-chat .
docker run -d --name insight-chat -p 8080:8080 insight-chat

特征：

1。聊天

• 与文档聊天
• 与文档的对话聊天

2。摄取数据

• 您可以从文件，链接网站或YouTube中获取数据。

3。消息

• 管理邮件以进行对话聊天。

4。聊天会话

• 管理聊天会话进行对话聊天。

5。用户

• 管理用户进行应用程序。

6。身份验证

• 应用的身份验证。

知识

Llamaindex的存储系统

简而言之，LlamainDex使用以下模式来存储文档信息：

文档的文字分为几个节点，也称为“块”。将文档ID作为主键，代表每个文档（主要是元数据（例如文件名和哈希））的对象存储在文档存储中，以及该文档的节点列表；使用节点ID作为主键，节点的嵌入存储在向量存储中。

该项目使用了商店的三个MongoDB实现：

• MongodocumentStore
• MongoIndexstore
• MongodbatlasVectorearch

参考

https://medium.com/@luoning.nici/llamaindex-in-depth-practice-how-to-now-to-build-a---------储存 - 储存 - 苏联系统，with-mongodb-atlas-atlas-atlas f306bf2fb480

https://docs.llamaindex.ai/en/stable/index.html

https://www.mongodb.com/atlas

如果这个项目对您有所帮助，请不要忘记给我一个。谢谢！ ？