fastRAG
v3.1.2
効率的な検索された生成モデルとアプリケーションを構築および探索します
？インストール•コンポーネント•例•？はじめる • ？デモ•✏scripts•ベンチマーク
Fast Ragは、最先端のLLMと情報検索を組み込んだ、効率的で最適化された検索拡張生成パイプラインの研究フレームワークです。 Fastragは、研究者と開発者に、検索拡張生成を進めるための包括的なツールセットを提供するように設計されています。
コメント、提案、問題、プルレクエストを歓迎します！ ❤❤️
重要
Haystack V2+と互換性があります。見つけられる問題を報告してください。
DocumentStoreサポート。 Fastragのさまざまな一意のコンポーネントの簡単な概要については、コンポーネントの概要ページを参照してください。
| LLMバックエンド | |
| Intel Gaudi Accelerators | Gaudi 2でLLMを実行しています |
| onnxランタイム | 最適化されたONNX-runtimeを使用してLLMを実行します |
| OpenVino | OpenVinoを使用してQuantized LLMSを実行します |
| llama-cpp | llama cppバックエンドでLLMSを備えたラグパイプラインを実行する |
| 最適化されたコンポーネント | |
| 埋め込み剤 | 最適化されたINT8 BI-ENCODERS |
| ランカー | 最適化/スパースクロスエンコーダー |
| ラグ効率の高いコンポーネント | |
| コルバート | トークンベースの遅い相互作用 |
| デコーダーのフュージョン（FID） | 生成マルチドキュメントエンコーダーデコーダー |
| 再現します | マルチドキュメントデコーダーの改善 |
| 格子縞 | 信じられないほど効率的なインデックスングエンジン |
予備要件：
ソフトウェアをセットアップするには、 pipからインストールするか、出血エッジアップデートのプロジェクトをクローンします。できれば新しく作成された仮想環境で、以下を実行します。
pip install fastragFastragの特定の使用法に基づいてインストールできる追加の依存関係があります。
# Additional engines/components
pip install fastrag[intel] # Intel optimized backend [Optimum-intel, IPEX]
pip install fastrag[openvino] # Intel optimized backend using OpenVINO
pip install fastrag[elastic] # Support for ElasticSearch store
pip install fastrag[qdrant] # Support for Qdrant store
pip install fastrag[colbert] # Support for ColBERT+PLAID; requires FAISS
pip install fastrag[faiss-cpu] # CPU-based Faiss library
pip install fastrag[faiss-gpu] # GPU-based Faiss libraryFastragの最新バージョンを使用するには、次のコマンドを使用してインストールできます。
pip install .pip install .[dev]コードは、Apache 2.0ライセンスの下でライセンスされています。
これは公式のIntel製品ではありません。
