ToK

知識（Tok）

知識（TOK）是一個完全本地，高質量且可擴展的檢索生成（RAG）應用程序，它利用AI模型和索引來查詢文檔並生成上下文準確的響應。使用Tok，您可以上傳文檔並獲得針對查詢的更多知情答案。此外，該應用程序會自動存儲您的聊天，使您可以隨時重新訪問並繼續對話。

目錄

• ？特徵
• 先決條件
• 入門
• 用法
• ？視頻演示
• ？視覺遊覽
• 結果

特徵

• ？ 完全本地，安全和以隱私為中心： Tok確保所有操作均在本地執行，並確保您的數據私密和安全。
• Versatile文檔上傳：上傳各種類型的文本文檔和文件夾，以創建一個索引，以提供更多知情的AI響應。
• ？ 可選的元數據分配：用自定義元數據增強文檔上傳，使您的數據更有條理和易於訪問。
• 全面的UI設置：通過用戶界面輕鬆訪問和修改重要設置，例如分塊選項，溫度，上下文窗口大小和聊天模式。
• ✍️自定義提示：添加並使用個性化的提示，用於大型語言模型（LLM）和聊天引擎，對您的需求進行剪裁響應。
• 與標題的持續聊天：聊天可以通過可自定義的標題保存，使您可以重新訪問並以後繼續進行。
• 持續的聊天歷史記錄：隨時訪問和查看過去的對話。
• ？來自Ollama的模型選擇：直接從Ollama中選擇並從Ollama獲取特定任務和偏好。
• ⏳帶有智能片段的流式響應：通過智能輸出格式進行實時響應，尤其是對於代碼段。
• ？可擴展：通過其他功能或集成輕鬆擴展TOK的功能。

先決條件

要運行Tok，您需要安裝兩個依賴項：

• Ollama：促進簡單的模型下載，服務和智能設備加載。 （必需的）
• Neo4J桌面：用於頂級矢量和圖形存儲。 （如果沒有docker /與EXE一起進行釋放或出於研究目的，則安裝）

設置neo4j（如果安裝了neo4j桌面）

1. 下載並安裝Neo4J桌面。
2. 將Neo4J箱路徑添加到系統的路徑環境變量中。這允許Tok訪問Neo4J。
   • Windows的示例bin路徑： pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin

• （對於Windows）通過在命令提示中運行以下命令或Windows的PowerShell來激活Neo4J CLI：

  neo4j windows-service install

請瀏覽此鏈接以執行以上步驟的其他拱門（並供參考）。

入門

您有兩個主要選項可以運行Tok：

選項1：使用Docker運行Tok（建議）

1. 確保您在計算機上安裝了Docker和Docker。
2. 克隆存儲庫：

   git clone https://github.com/gurveervirk/ToK.git

3. 導航到包含docker-compose.yml文件的目錄：

    cd ToK/docker

4. 在您的本地系統上服務Ollama。 （應用程序可以自動使用）

   ollama serve

5. 使用Docker組成的應用程序：

   docker-compose up -d

選項2：運行Tok可執行（已棄用）（不再維護）

1. 訪問發布頁面，然後下載最新的ToK.exe到位置/目錄（該應用程序創建必要的文件和文件夾以進行正確的工作）。

2. 通過一次運行應用程序並單擊右上角的設置圖標來修改設置：

   • 用戶名：替換為NEO4J數據庫用戶名。
   • 密碼：替換為您在Neo4J項目中設置的密碼。
   • URI：替換為NEO4J項目的URI。

   注意：默認用戶名和URI是neo4j db的默認值。您還可以在應用程序創建的settings.json中對其進行修改。

完畢！您現在準備開始使用Tok。

用法

完成設置後：

1. 發射托克。
2. 選擇直接與機器人聊天，或使用頂部右上按鈕上傳文檔以進行增強查詢響應。
3. 享受與本地運營的AI驅動知識助理互動的無縫體驗，該助理可以使您的數據保持私密和安全。

注意：在提示LLM /聊天引擎後立即創建新的聊天時，在側邊欄中可能看不到最新的聊天，而聊天幾秒鐘都無法聊天。這可能是由於新的聊天以LLM生成的標題存儲。

視頻演示

觀看下面的視頻以查看“托克”行動：

視覺遊覽

通過以下圖像探索TOK的關鍵功能和用戶界面：

上傳模式

設置模式

提示模態

結果

該應用程序已在Triviaqa數據集的一個子集上成功測試，結果如下：

請在此鏈接中找到上述結果的代碼。

星曆史