知識の山(tok) Trove of Knowledge (TOK)は、AIモデルとインデックスを活用してドキュメントをクエリし、文脈的に正確な応答を生成する完全にローカル 、高品質で、高品質 で拡張可能な検索可能な生成(RAG)アプリケーションです 。 TOKを使用すると、ドキュメントをアップロードして、クエリに合わせたより情報に基づいた回答を受信できます。さらに、アプリはチャットを自動的に保存し、いつでも会話を再訪して継続することができます。
目次 ?特徴 前提条件 はじめる 使用法 ?ビデオデモ ?ビジュアルツアー 結果
特徴 ?§完全なローカル、セキュア、プライバシーに焦点を当てた: TOKは、すべての操作がローカルで実行され、データをプライベートで安全に保つことを保証します。 汎用性の高いドキュメントアップロード: さまざまな種類のテキストドキュメントとフォルダーをアップロードして、より情報に基づいたAI応答のインデックスを作成します。 ?§オプションのメタデータの割り当て: カスタムメタデータを使用してドキュメントのアップロードを強化し、データをより整理してアクセスしやすくします。 包括的なUI設定: ユーザーインターフェイスを介したチャンクオプション、温度、コンテキストウィンドウサイズ、チャットモードなどの重要な設定に簡単にアクセスして変更します。 Custom -Custom Prompts: 大規模な言語モデル(LLM)とチャットエンジンの両方にパーソナライズされたプロンプトを追加および使用し、ニーズへの応答を調整します。 タイトルを使用した永続的なチャット: チャットはカスタマイズ可能なタイトルで保存され、後で再訪して継続することができます。永続的なチャット履歴: いつでも過去の会話にアクセスしてレビューします。 ? Ollamaからのモデル選択: 特定のタスクと好みについては、OllamaからAIモデルを直接選択してプルします。 smartスマートスニペットを使用したストリーミング応答: 特にコードスニペットのスマート出力フォーマットでリアルタイムの応答を体験してください。 ?拡張可能: 追加の機能または統合を使用して、Tokの機能を簡単に拡張できます。
前提条件 TOKを実行するには、2つの依存関係をインストールする必要があります。
Ollama: 簡単なモデルのダウンロード、サービング、インテリジェントなデバイスの読み込みを促進します。 (必須 ) NEO4Jデスクトップ: トップ層のベクターとグラフストアに使用されます。 ( dockerなしで実行されている場合 /リリースのexeを使用して、または研究のためにインストールしてください )
NEO4Jのセットアップ(NEO4Jデスクトップがインストールされている場合) NEO4Jデスクトップ をダウンロードしてインストールします。 NEO4Jビンパス をシステムのパス 環境変数に追加します。これにより、NEO4JにTOKからアクセスできます。 Windowsのbinパスの例: pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin このリンクを使用して、他のアーチの上記の手順を実行してください(および参照のために)。
はじめる TOKを実行するための2つの主なオプションがあります。
オプション1:Dockerでトークを実行する(推奨) DockerとDockerがマシンにインストールされていることを確認してください。 リポジトリをクローンします: git clone https://github.com/gurveervirk/ToK.git docker-compose.ymlファイルを含むディレクトリに移動します。 地元のシステムでオラマを提供してください。 (アプリは自動的に提供する場合があります ) Docker Composeでアプリケーションを開始します。
オプション2:トーク実行可能な実行(非推奨)(維持されなくなりました) [リリース]ページにアクセスして、最新のToK.exe場所/ディレクトリにダウンロードします(アプリは、正しい動作のために必要なファイルとフォルダーを作成します)。
アプリを1回実行して、右上隅の設定アイコンをクリックして設定を変更します。
ユーザー名: NEO4Jデータベースユーザー名に置き換えます。パスワード: NEO4Jプロジェクトで設定したパスワードに置き換えます。 URI: NEO4JプロジェクトのURIに置き換えます。 注: デフォルトのユーザー名とURIは、NEO4J DBのデフォルト値です。アプリによって作成されたsettings.jsonで変更することもできます。
終わり! これで、Tokの使用を開始する準備ができました。
使用法 セットアップを完了した後:
トーク を起動します。強化されたクエリ応答のために、右上ボタンを使用してボットと直接チャットするか、ドキュメントをアップロードするかを選択します。 データをプライベートで安全に保つローカルランのAI駆動の知識アシスタントと対話するシームレスな体験をお楽しみください。 注: LLM /チャットエンジンをプロンプトした直後に新しいチャットを作成すると、最新のチャットがサイドバーに表示されない場合と、数秒間チャットが利用できない場合があります。これは、新しいチャットがLLMで生成されたタイトルで保存されているためかもしれません。
ビデオデモ 以下のビデオを見て、Tokが動作しているのを見てください。
ビジュアルツアー 以下の画像を介して、Tokの主要な機能とユーザーインターフェイスを調べます。
モーダルをアップロードします
設定モーダル
モーダルをプロンプトします
結果 このアプリは、Triviaqaデータセットのサブセットで正常にテストされており、結果は次のとおりです。
このリンクで上記の結果のコードを見つけてください。
星の歴史