insight chat

洞察力

與

• FastApi -FastApi是一個現代，快速（高性能）的Web框架，用於基於標準的Python型提示，用於使用Python 3.7+構建API。

• LlamainDex -LlamainDex是基於LLM的應用程序的數據框架，可從上下文增強中受益。這樣的LLM系統已被稱為“抹布系統”，代表“檢索成像的一代”。 LlamainDex為更容易攝入，結構和訪問私有或特定於域的數據提供了基本的抽象，以便將它們安全，可靠地註入LLM中，以更準確地生成。

• MongoDB Atlas -MongoDB Atlas是由構建MongoDB的人開發的完全管理的雲數據庫。

• Atlas Vector搜索 - Atlas Vector搜索可讓您搜索非結構化數據。您可以使用諸如OpenAI和擁抱面的機器學習模型來創建矢量嵌入，並將它們存儲在Atlas中，以檢索增強生成（RAG），語義搜索，推薦引擎，動態個性化和其他用例。

注意：您需要創建一個KNN索引來使用Atlas Vector搜索。

• 登錄到您的地圖集帳戶，並找到與矢量存儲相對應的集合。如果您使用的是默認名稱，則應為“ default_store/default_db”。
• 創建一個Atlas Search中的搜索索引。選擇“ JSON編輯器”模式，並設置具有以下內容的索引：

 {
  "mappings": {
    "dynamic": true,
    "fields": {
      "embedding": {
        "dimensions": 1536,
        "similarity": "cosine",
        "type": "knnVector"
      }
    }
  }
}

• 等待幾秒鐘讓新索引生效。

使用Uvicorn運行應用程序

需要

• Python> = 3.10

與詩歌安裝：

 pip install poetry
poetry config virtualenvs.in-project true
poetry shell
poetry install

 uvicorn app.main:app --host 127.0.0.1 --port 9080

使用Docker運行應用程序？

 docker build -t insight-chat .
docker run -d --name insight-chat -p 8080:8080 insight-chat

特徵：

1。聊天

• 與文檔聊天
• 與文檔的對話聊天

2。攝取數據

• 您可以從文件，鏈接網站或YouTube中獲取數據。

3。消息

• 管理郵件以進行對話聊天。

4。聊天會話

• 管理聊天會話進行對話聊天。

5。用戶

• 管理用戶進行應用程序。

6。身份驗證

• 應用的身份驗證。

知識

Llamaindex的存儲系統

簡而言之，LlamainDex使用以下模式來存儲文檔信息：

文檔的文字分為幾個節點，也稱為“塊”。將文檔ID作為主鍵，代表每個文檔（主要是元數據（例如文件名和哈希））的對象存儲在文檔存儲中，以及該文檔的節點列表；使用節點ID作為主鍵，節點的嵌入存儲在向量存儲中。

該項目使用了商店的三個MongoDB實現：

• MongodocumentStore
• MongoIndexstore
• MongodbatlasVectorearch

參考

https://medium.com/@luoning.nici/llamaindex-in-depth-practice-how-to-now-to-build-a---------儲存 - 儲存 - 蘇聯繫統，with-mongodb-atlas-atlas-atlas f306bf2fb480

https://docs.llamaindex.ai/en/stable/index.html

https://www.mongodb.com/atlas

如果這個項目對您有所幫助，請不要忘記給我一個。謝謝！ ？