LLM with RAG

ステージ1

1. ラグファイル
   • 大規模な言語モデル：
     • 言語モデル：「DataBricks/DBRX-Instruct」：https：//huggingface.co/databricks/dbrx-intruct
     • nvidiaクライアント：https：//build.nvidia.com/databricks/dbrx-instruct
   • ベクトルデータベース：
     • Milvus：https：//milvus.io/
     • 埋め込みモデル：https：//huggingface.co/thenlper/gte-base
     • サポートOS：Linux
       • Milvus_liteはWindowsOSをサポートしていないため、現在WindowsOSをサポートしていません
       • この問題を修正するために、将来的にはさまざまなデータベースを選択します
2. pdf_to_txtファイル
   • 現在のハンドル：
     • pdf（テキスト）からtxt
     • RAGモデルにフィードするために、注文の前処理を改善する必要があります
3. Progress（10/01/2024）：単純化されたバージョンがLinuxで動作し、1つのクエリ機能を備えています
   • （10/02/2024）：クエリのためにコレクションを再利用できます

ステージ2（現在）

1. OCRを使用してPDFリーダーを作成します
   • アップロードされたPDFを受け入れます
   • Easyocrを使用して読んでください
   • 結果の結果をファイルに保存します。できれば、各PDFに1つのファイル
2. RAGファイルは、再帰的な質問と回答をサポートします
3. 履歴QAを対応するファイルに保存できます

ステージ3

1. RAGとPDFリーダーを組み合わせます
2. LLMの長期記憶をサポートします
   • QA履歴を別のストレージに追加します
   • 答えと歴史を組み合わせます

cleanup exprentatioと最適化

1. 最適化、速度、メモリ

展開？