Doc Quest

docquest？ ：內部檢索成績（RAG）系統

我們如何在離線環境中設計和優化抹布系統，在管理內部包裹時為數據科學團隊提供個性化的，參考的輸出？

進一步分解：

• 帶有參考的定制輸出：研究抹布系統如何利用特定於上下文的信息為數據科學家生成量身定制的輸出。探索方法，以在生成的內容中包含準確和相關的參考。
• 內部離線系統：檢查在離線環境中部署抹布系統的技術要求和限制。評估與數據存儲，處理和模型更新有關的挑戰，而無需Internet連接。
• 管理內部軟件包：分析在RAG系統中集成和管理專有數據科學軟件包的策略。查看兼容性問題，版本控制和依賴關係管理，以確保無縫操作和集成。

概述：

DOCQUEST是專為數據科學團隊設計的脫機檢索生成一代（RAG）系統。它在沒有Internet連接的環境中運行時提供個性化的，參考的輸出。該系統是數據隱私至關重要的安全設置的理想選擇。

特徵：

• 離線操作：無互聯網連接的功能齊全的抹布系統
• 高級文檔預處理：有效的文檔處理和內容提取的強大管道
• 最先進的嵌入和矢量存儲：合併多個嵌入式模型和矢量存儲解決方案
• 優化的RAG管道：包括智能查詢處理和高精度文檔檢索
• 用戶友好的接口：基於簡化的UI，可輕鬆交互

數據源：

該系統集成了來自多個來源的文檔，包括：

• 貓熊
• numpy
• Scikit-Learn

文件夾結構：

 DOC-QUEST/
│
├── data/                           # Folder for data/documents
│   ├── documents/                  # Raw or processed document storage
│   └── vector_db/                  # Vector databases
│       ├── child_docs/             # Child documents
│       └── parent_docs/            # Parent documents
│
├── notebooks/                      # Jupyter notebooks for prototyping and experimentation
│   ├── 1_documentation_download.ipynb
│   ├── 2_document_pre_processing.ipynb
│   ├── 3_embedding_vector_save_gpu.ipynb
│   ├── 4_conversation_rag.ipynb
│   ├── data_wrangling.ipynb
│   └── rag_v1.ipynb
│
├── src/                            # Core source code for pipeline components
│   ├── 1_documentation_download.py
│   ├── 2_document_pre_processing.py
│   ├── 3_embedding_vector_save_gpu.py
│   ├── 4_conversation_rag.py
│
├── .gitignore                      # Specifies files/folders to ignore in version control
├── doc_quest_app.py                # DocQuest UI streamlit application
├── README.md                       # Project documentation
└── requirements.txt                # Dependencies for the project

安裝：

1. 克隆存儲庫：

    git clone https://github.com/shrivastavasatyam/Doc-Quest.git
   cd Doc-Quest
   

2. 設置虛擬環境：

    python3 -m venv .venv
   source .venv/bin/activate
   

3. 安裝依賴項：

    pip install -r requirements.txt
   

4. 配置API鍵：設置您的GROQ API密鑰作為環境變量：

    export GROQ_API_KEY=your_groq_api_key
   

   或直接在doc_quest_app.py文件中添加：

    os . environ [ "GROQ_API_KEY" ] = "your_groq_api_key"

5. 準備文檔路徑：確保在doc_quest_app.py文件中正確設置文檔路徑：

    parent_doc_path = "/path/to/your/parent_docs"
   child_doc_path = "./path/to/your/child_docs" 

用法：

1. 啟動簡易應用：

    streamlit run doc_quest_app.py
   

2. 訪問FARLIT提供的URL的Web界面（通常是http://localhost:8501 ）。

3. 使用聊天界面提出問題並與抹布系統進行交互。

系統組件：

• 文檔預處理：使用bshtmlloader和Beautifulsoup進行內容提取
• 嵌入模型：GTE-LARGE-EN-V1.5，GTE-LARGE，Stella_en_400m_v5
• 矢量存儲：色度，faiss
• 文本生成：利用Llama-3.1-70B模型

未來的改進：

• 實施聊天歷史記錄存儲。
• 進一步優化檢索組件。
• 將錨定鏈接直接導航添加到相關文檔部分。
• 在UI中引入多個生成模型選擇選項。