ToK

知识（Tok）

知识（TOK）是一个完全本地，高质量且可扩展的检索生成（RAG）应用程序，它利用AI模型和索引来查询文档并生成上下文准确的响应。使用Tok，您可以上传文档并获得针对查询的更多知情答案。此外，该应用程序会自动存储您的聊天，使您可以随时重新访问并继续对话。

目录

• ？特征
• 先决条件
• 入门
• 用法
• ？视频演示
• ？视觉游览
• 结果

特征

• ？完全本地，安全和以隐私为中心： Tok确保所有操作均在本地执行，并确保您的数据私密和安全。
• Versatile文档上传：上传各种类型的文本文档和文件夹，以创建一个索引，以提供更多知情的AI响应。
• ？可选的元数据分配：用自定义元数据增强文档上传，使您的数据更有条理和易于访问。
• 全面的UI设置：通过用户界面轻松访问和修改重要设置，例如分块选项，温度，上下文窗口大小和聊天模式。
• ✍️自定义提示：添加并使用个性化的提示，用于大型语言模型（LLM）和聊天引擎，对您的需求进行剪裁响应。
• 与标题的持续聊天：聊天可以通过可自定义的标题保存，使您可以重新访问并以后继续进行。
• 持续的聊天历史记录：随时访问和查看过去的对话。
• ？来自Ollama的模型选择：直接从Ollama中选择并从Ollama获取特定任务和偏好。
• ⏳带有智能片段的流式响应：通过智能输出格式进行实时响应，尤其是对于代码片段。
• ？可扩展：通过其他功能或集成轻松扩展TOK的功能。

先决条件

要运行Tok，您需要安装两个依赖项：

• Ollama：促进简单的模型下载，服务和智能设备加载。 （必需的）
• Neo4J桌面：用于顶级矢量和图形存储。 （如果没有docker /与EXE一起进行释放或出于研究目的，则安装）

设置neo4j（如果安装了neo4j桌面）

1. 下载并安装Neo4J桌面。
2. 将Neo4J箱路径添加到系统的路径环境变量中。这允许Tok访问Neo4J。
   • Windows的示例bin路径： pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin

• （对于Windows）通过在命令提示中运行以下命令或Windows的PowerShell来激活Neo4J CLI：

  neo4j windows-service install

请浏览此链接以执行以上步骤的其他拱门（并供参考）。

入门

您有两个主要选项可以运行Tok：

选项1：使用Docker运行Tok（建议）

1. 确保您在计算机上安装了Docker和Docker。
2. 克隆存储库：

   git clone https://github.com/gurveervirk/ToK.git

3. 导航到包含docker-compose.yml文件的目录：

    cd ToK/docker

4. 在您的本地系统上服务Ollama。 （应用程序可以自动使用）

   ollama serve

5. 使用Docker组成的应用程序：

   docker-compose up -d

选项2：运行Tok可执行（已弃用）（不再维护）

1. 访问发布页面，然后下载最新的ToK.exe到位置/目录（该应用程序创建必要的文件和文件夹以进行正确的工作）。

2. 通过一次运行应用程序并单击右上角的设置图标来修改设置：

   • 用户名：替换为NEO4J数据库用户名。
   • 密码：替换为您在Neo4J项目中设置的密码。
   • URI：替换为NEO4J项目的URI。

   注意：默认用户名和URI是neo4j db的默认值。您还可以在应用程序创建的settings.json中对其进行修改。

完毕！您现在准备开始使用Tok。

用法

完成设置后：

1. 发射托克。
2. 选择直接与机器人聊天，或使用顶部右上按钮上传文档以进行增强查询响应。
3. 享受与本地运营的AI驱动知识助理互动的无缝体验，该助理可以使您的数据保持私密和安全。

注意：在提示LLM /聊天引擎后立即创建新的聊天时，在侧边栏中可能看不到最新的聊天，而聊天几秒钟都无法聊天。这可能是由于新的聊天以LLM生成的标题存储。

视频演示

观看下面的视频以查看“托克”行动：

视觉游览

通过以下图像探索TOK的关键功能和用户界面：

上传模式

设置模式

提示模态

结果

该应用程序已在Triviaqa数据集的一个子集上成功测试，结果如下：

请在此链接中找到上述结果的代码。

星历史