llama index RAG

llama indexラグアプリケーション

ストレージとしてQDRANTを使用したLLAMAインデックスのRAG実装。いくつかのPDFを取得し（テストPDFを使用する /データ /データを使用するか、独自のドキュメントを削除して使用できます）、VDBにインデックス /埋め込み、LLMを使用して推論して出力を生成します。かなり気の利いた。

使い方

• ローカルパスとデータサブフォルダーを作成します
• Conda、Env、またはDockerを使用して仮想envを作成します
• CMDプロンプトのpip install -r /path/to/requirements.txt入力します
• ollama run mistralまたはあなたが選んだあらゆるモデルを使用して、ターミナルでOllamaをアクティブにします。 Windowsに新しいOllamaを使用している場合は、バックグラウンドで実行されるため、必要ありません（アクティブであることを確認してください）。
• 選択したモデルを使用して、llama_index_rag.pyを開き、ライン42と43を更新します
• スクリプトを保存して実行します
• 次のような結果を観察します：