llama index RAG

美洲駝指數抹布應用

使用QDrant作為存儲的Llama索引上的RAG實現。採取一些PDF（您可以使用“ IN /DATA”或“刪除”測試PDF，並使用自己的文檔），將索引 /嵌入在VDB中，使用LLM來推斷和生成輸出。很漂亮。

如何使用

• 創建本地路徑和數據子文件夾
• 使用Conda，Env或Docker創建虛擬設備
• 鍵入pip install -r /path/to/requirements.txt在cmd提示中
• 用ollama run mistral或您選擇的任何型號，在終端中激活Ollama。如果您使用新的Ollama for Windows，則沒有必要，因為它在後台運行（確保其活動性）。
• 打開llama_index_rag.py並使用您的選擇模型更新第42和43號
• 保存並運行腳本
• 觀察結果類似：