RAG nificent

RAG-NIFICENT：由LLMS提供支持的AI聊天機器人用於引用自定義PDF，報告和指南

現在支持Meta AI的Llama-3.1

RAG-NIFICENT是一個最先進的存儲庫，利用檢索功能的生成（RAG）的力量提供了來自PDF的策劃的PDF目錄的即時答案和參考，其中包含有關任何給定主題的信息，例如WHO建議文檔。該系統旨在幫助研究人員，政策制定者和公眾在廣泛的文檔中快速查找特定信息。

特徵

• 對話界面：使用自然語言查詢與系統互動，以接收直接從PDF採購的響應。
• 直接引用：系統中的每個響應都包含指向源PDF頁面的直接鏈接，以確保可追溯性和驗證。
• PDF目錄：一組預定義的關鍵PDF文檔，包括有關SOCISTOSOLIAS和MALARIA等主要健康主題的WHO建議。

可用型號

• ？ Llama-3.1-8B燃燒：通過優化快速交互的此模型，可以進行即時，有效的響應。
• ？ Llama-3.1-70B反之：利用此多功能模型以高準確性來實現多種複雜的語言任務。
• GPT-3.5-Turbo ：與適合各種對話任務的高級，類似人類的相互作用進行互動。
• ？ LLAMA3-70B-8192 ：使用這種大型模型享受高端性能，非常適合深度學習見解。
• ？ LLAMA3-8B-8192 ：具有更易於使用的Llama3版本的強大功能，非常適合各種AI應用程序。
• ？ Mixtral-8x7b-32768 ：利用Mixtral的廣泛能力來利用整體建模的力量，以進行細微的理解和響應產生。
• ？ Gemma-7B-IT ：與Gemma一起探索專門的互動和以技術為中心的解決方案，該解決方案是為其量身定制的和技術內容。

演示

它如何工作

該應用程序利用OpenAI嵌入，Pinecone矢量搜索和對話界面的組合來提供無縫的檢索體驗。進行查詢時，系統：

1. 將查詢轉換為嵌入。
2. 使用Pinecone的矢量搜索搜索最相關的文檔部分。
3. 返回答案以及引用和鏈接到源文檔。

設定

1. 克隆存儲庫：

   git clone https://github.com/yourusername/RAG-nificent.git

2. 安裝依賴項：

   pip install -r requirements.txt

3. 在.env中設置環境變量（另請參見.env.example文件：

   • PINECONE_INDEX_NAME
   • PINECONE_NAME_SPACE
   • OPENAI_API_KEY
   • PINECONE_API_KEY
   • GROQ_API_KEY

4. 創建一個與PINECONE_INDEX_NAME相同名稱的Pinecone索引。用dimensions=1536設置它，而metric=cosine 。

5. 將PDFS放置在pdf_data目錄中並運行data_ingestion.py

6. 運行應用程序：

   chainlit run src/app.py

來源文檔

該系統當前包括以下PDF的指南，並具有直接鏈接到文檔：

• 世衛組織控制和消除人血吸蟲病的指南（2022）
• 世衛組織瘧疾指南（2023）