ホーム>プログラミング関連>その他のソースコード
ダウンロード

dabarqus

Dabarqusは、完全なRAGソリューションを実装するスタンドアロンアプリケーションです。使いやすく、既存のアプリケーションと簡単に統合できるように設計されています。 Dabarqusには、REST API、コマンドラインインターフェイス、および管理ダッシュボードが含まれています。

Dabarqusを作成する理由

開発者の場合、基本的なぼろきれソリューションを構築するのは非常に簡単です。再利用するPythonコードだけでなく、チュートリアルとハウツーのチュートリアルとハウツーがたくさんあります。ただし、会社内にRAGソリューションを展開している場合、またはエンドユーザーPCの場合は、潜在的にトリッキーな展開とメンテナンスの問題を把握する必要があります。つまり、Python、Vectorデータベース、適切な埋め込みAIモデル、および可能なライセンスの課題を展開することも意味します。 Dabarqusは、依存関係のないスタンドアロンのオールインワンソリューションでこれらの問題に対処するために作成されました。これは、ベクトル検索機能が組み込まれている低レベルのC ++で記述されており、ユースケースに最適な埋め込みAIモデルを使用する柔軟性、および簡単な開発統合のためのREST APIです。

目次

  1. クイックスタート
    • ubuntu
    • macos
    • Windows
  2. 特徴
  3. BARQ-コマンドラインインターフェイス
    • CLIで使用します
      • 店
      • 取得します
  4. API-休憩インターフェイス
    • APIを使用します
  5. 例

クイックスタート

ubuntu

DabarqusはCPUのみで動作するか、NVIDIA CUDAを使用してより高いパフォーマンスを使用できます。 Cuda（別名Nvidia Cublas）バージョンの場合、Nvidiaドライバーをインストールする必要があります。 CPUバージョンには追加のソフトウェアは必要ありません。 CUDAバージョンを使用するには、CUDAサポートを備えたNVIDIA GPUを使用し、DabarqusのCUDAバージョンをダウンロードする必要があることに注意してください。

  1. ubuntuにnv​​idiaドライバーをインストールするには（nvidia gpuがある場合）、次のコマンドを実行します。 

    sudo ubuntu-drivers install

  2. dabarqusファイルをフォルダーに解凍します

    unzip Dabarqus-linux-DOWNLOADED_VERSION.zip
cd Dabarqus-linux-DOWNLOADED_VERSION
chmod +x ./bin/ *
./bin/barq service install

  3. ブラウザを開き、 http://localhost:6568/adminにアクセスします

macos

パッケージファイルのダウンロードについては、次のことを行います。

  1. dabarqus-macos-downloaded_version.pkgをダブルクリックしてインストールします
  2. インストール後、ブラウザを開き、 http://localhost:6568/adminに移動します

zipファイルのダウンロードについては、次のことを行います。

  1. dabarqusファイルをフォルダーに解凍します

    unzip Dabarqus-linux-DOWNLOADED_VERSION.zip
cd Dabarqus-linux-DOWNLOADED_VERSION
./bin/barq service install

  2. ブラウザを開き、 http://localhost:6568/adminにアクセスします

Windows

  1. dabarqus-windows-downloaded_version.exeとインストールをダブルクリックします
  2. dabarqusアイコンをダブルクリックするか、 http://localhost:6568/adminに移動します

特徴

  1. ドキュメント、データベース、およびAPIを摂取する：PDFS*、電子メール、生データなどの多様なデータソースを摂取します。

    • あなたのデータがどこに存在しても、dabarqusはあなたのLLMでそれを利用できるようにすることができます

  2. LLMスタイルのプロンプト：メモリバンクに話しかけるときに、シンプルなLLMスタイルのプロンプトを使用します。

    • dabarqusは、LLMを与えるのと同じプロンプトを使用して関連するデータを取得します
    • 特別なクエリを作成したり、新しいクエリ言語を学んだりする必要はありません

  3. REST API ：モデルをダウンロードし、セマンティックインデックスの促進、さらにはLLM推論のための包括的な制御インターフェイス。

    • RESTは幅広い採用を楽しむ標準的なインターフェイスであるため、チームは新しい複雑なシステムを学ぶ必要はありません
    • 既存の開発ツールとの包括的な統合が可能になり、簡単に採用することができます

  4. 複数のセマンティックインデックス（メモリバンク） ：データを個別のセマンティックインデックス（メモリバンク）にグループ化します。

    • 主題、カテゴリ、またはあなたが好きなグループ化によって整理されたデータを整理してください
    • メモリバンクはポータブルなので、好きな場所に作成して使用できます

  5. SDK ：PythonおよびJavaScriptのネイティブSDK。

    • PythonおよびJavaScriptプロジェクトと簡単に統合できます

  6. LLMフレンドリー出力：ChatGpt、Ollama、およびその他のLLMプロバイダーで動作するLLM対応の出力を生成します

    • 選択したLLMとシームレスに動作します

  7. 管理ダッシュボード：パフォーマンスを監視し、メモリバンクをテストし、使いやすいUIで変更を加えます

    • Dabarqus機能への簡単なアクセス
    • リアルタイムグラフでアプリのパフォーマンスを監視します

  8. Mac、Linux、およびWindowsサポート：すべてのプラットフォームでゼロ依存関係でネイティブに実行されます：Macos（IntelまたはMetal）、Linux、およびWindows（CPUまたはGPU）

    • 使用するどんなプラットフォームでも実行されます

  9. LLM推論：dabarqus api/sdksを介してLLMモデルとチャット

    • アプリケーションで使用するための組み込みのチャットボット機能

*Dabarqus Professional Editionは、電子メール、メッセージング、APIサポートに必要です。

BARQ -Dabarqusへのコマンドラインインターフェイス

インストールするには： barq service install

アンインストールするには： barq service uninstall

CLIで使用します

店

使用法： barq store --input-path <path to folder> --memory-bank "<memory bank name>"

例： barq store --input-path C:docs --memory-bank documents

取得します

使用法： barq retrieve --memory-bank "<memory bank name>"

  • 例： barq retrieve --memory-bank documents
  • 例： barq retrieve --memory-bank documents --query "Tell me about the documents" --query-limit 3これは、「ドキュメント」メモリバンクのクエリに対する3つの回答を表示します

API- DabarqusへのRESTインターフェース

方法終点説明パラメーター
得る/健康または /API /健康サービスの健康状態を確認してくださいなし
得る/admin/*管理者アプリケーションを提供しますなし
得る/odobo/* Odoboアプリケーションを提供しますなし
得る/API/モデル利用可能なAIモデルを取得しますなし
得る/API/モデル/メタデータ特定のモデルのメタデータを取得しますmodelRepo 、 filePath （オプション）
得る/API/ダウンロードダウンロードされたアイテムに関する情報を入手してくださいmodelRepo （オプション）、 filePath （オプション）
得る/api/downloads/enqueue Enqueue新しいダウンロードmodelRepo 、 filePath
得る/API/ダウンロード/キャンセルダウンロードをキャンセルしますmodelRepo 、 filePath
得る/API/ダウンロード/削除ダウンロードしたアイテムを削除しますmodelRepo 、 filePath
得る/API/推論推論項目に関する情報を取得しますalias （オプション）
得る/API/Incerence/start推論を開始しますalias 、 modelRepo 、 filePath 、 address （オプション）、 port （オプション）、 contextSize （オプション）、 gpuLayers （オプション）、 chatTemplate （オプション）
得る/API/推論/停止推論を停止しますalias
得る/API/推論/ステータス推論のステータスを取得しますalias （オプション）
得る/API/INCERENCE/RESET推論をリセットしますalias
得る/API/Incerence/Restart現在の推論を再起動しますなし
得る/API/ハードウェアまたは/API/HARDWARINFOハードウェア情報を取得しますなし
得る/API/シルクメモリステータスを取得しますなし
得る/API/Silk/Enable思い出を有効にしますなし
得る/API/Silk/Disable思い出を無効にしますなし
得る/API/Silk/MemoryBanksメモリバンクの情報を取得しますなし
得る/API/Silk/MemoryBank/Activateメモリバンクをアクティブにしますmemorybank
得る/API/Silk/MemoryBank/非アクティブ化メモリバンクを無効にしますmemorybank 、 all
得る/API/シルク/クエリセマンティッククエリを実行します（シルクレトリバーが処理するパラメーター）
得る/API/シルク/ヘルスシルクレトリバーの健康を確認してくださいなし
得る/API/シルク/モデル/メタデータシルクレトリバーからモデルメタデータを入手してください（シルクレトリバーが処理するパラメーター）
得る/API/シャットダウンサーバーのシャットダウンを開始しますなし
役職/API/utils/logログに書き込みますログの詳細を備えたJSONボディ
役職/API/シルク/埋め込みシルクレトリバーから埋め込みを取得します（シルクレトリバーが処理するパラメーター）

APIを使用します

  • 例： curl http://localhost:6568/api/silk/query?q=Tell%20me%20about%20the%20documents&limit=3&memorybank=docs

例

動作中のDabarqusの例は、このレポの例の下で見つけることができます。

  • pythonpdfchatbot-restapi：REST APIを介してDabarqusを使用してPDFとチャットしたチャットボットプログラムの例。
  • pythonpdfchatbot-pythonsdk：python sdkを介してdabarqusを使用してPDFとチャットします。
  • ストアファイル：Python SDKを使用して、ドキュメントをメモリバンク（セマンティックインデックス）に保存するPythonの例

注：

  1. Dabarqus Professional Editionは、電子メール、メッセージング、APIサポートに必要です。
拡大する
追加情報
関連アプリ
おすすめ
関連情報 すべて