story chat v1
1.0.0
網站Twitter
AI RAG聊天機器人用於Afictionx故事。
它由Llama Index提供動力,一起ai,一起嵌入和下一步。它將故事嵌入story/data中,並將嵌入到story/cache的媒介數據庫中。然後,角色扮演的角色是故事的角色並回答用戶的問題。
在幕後,LlamainDex通過檢索增強發電(RAG)通過自定義數據源豐富您的模型。
過度簡化,此過程通常由兩個階段組成:
一個索引階段。 LlamainDex通過攝入數據並將其轉換為文檔來準備知識庫。它將這些文檔(文本,關係等)從節點中解析為元數據,並將這些塊的可查詢索引從這些塊中創建到知識庫中。
查詢階段。從知識庫中檢索了相關上下文,以幫助模型響應查詢。查詢階段確保該模型可以訪問其原始培訓數據中未包含的數據。

來源:簡化
將您的.example.env文件複製到.env中,然後用自己的替換為TOGETHER_API_KEY 。在此.ENV中指定虛擬openai_api_key值以確保其工作(臨時黑客)
npm install
http://localhost:3200/api/generate 。 npm run dev
http://localhost:3200/http://localhost:3200/api/chat它支持流響應或JSON響應。