Trove of Knowledge (TOK)-это полностью локальное , высококачественное и расширяемое приложение для поиска-аугированного поколения (RAG), которое использует модели ИИ и индексы для запроса документов и генерирования контекстных точных ответов. С Tok вы можете загружать документы и получать более информированные ответы, адаптированные к вашим запросам. Кроме того, приложение автоматически хранит ваши чаты, позволяя вам в любое время вернуться и продолжать разговоры.
Оглавление
? Функции
Предварительные условия
Начиная
Использование
? Видео демонстрация
? Визуальный тур
Результаты
Функции
️ Полностью локальная, безопасная и ориентированная на конфиденциальность: TOK гарантирует, что все операции выполняются локально, сохраняя ваши данные частными и безопасными.
Универсальная загрузка документа: загрузите различные типы текстовых документов и папок, чтобы создать индекс для более информированных ответов искусственного интеллекта.
️ Необязательное назначение метаданных: улучшить загрузки документов с помощью пользовательских метаданных, делая ваши данные более организованными и доступными.
Комплексные настройки пользовательского интерфейса: Легко получить доступ и изменить важные настройки, такие как параметры Chunking, температура, размер окна контекста и режим чата через пользовательский интерфейс.
✍ Пользовательские подсказки: добавьте и используйте персонализированные подсказки как для большой языковой модели (LLM), так и для двигателя чата, адаптируя ответы на ваши потребности.
Постоянные чаты с названиями: чаты сохраняются с настраиваемыми названиями, что позволяет вам вернуться и продолжить их позже.
Постоянная история чата: доступ и просмотреть прошлые разговоры в любое время.
? Выбор модели из Ollama: выберите и вытащите модели искусственного интеллекта непосредственно из Олламы для конкретных задач и предпочтений.
⏳ Потоковые ответы с интеллектуальными фрагментами: испытайте ответы в реальном времени с форматированием интеллектуального вывода, особенно для фрагментов кода.
? Расширение: легко расширять функциональность Тока с помощью дополнительных функций или интеграций.
Предварительные условия
Чтобы запустить ток, вам нужно установить две зависимости:
NEO4J Desktop: используется для векторных и графических магазинов верхнего уровня. ( Установите при запуске без Docker / с EXE в выпусках или для исследовательских целей )
Настройка NEO4J (если установлен NEO4J Desktop)
Загрузите и установите настольный компьютер NEO4J .
Добавьте путь для бин Neo4j к переменной среды пути вашей системы. Это позволяет NEO4J быть доступным TOK.
Пример пути корзины для Windows: pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin
(Для Windows) активируйте CLI Neo4J, выполнив следующую команду в командной строке или PowerShell для Windows:
neo4j windows-service install
Пожалуйста, пройдите через эту ссылку, чтобы выполнить вышеуказанные шаги для других арки (и для справки).
Начиная
У вас есть два основных варианта для запуска Tok:
Вариант 1: Запуск Tok с Docker (рекомендуется)
Убедитесь, что на вашем компьютере установлено Docker и Docker.
Клонировать репозиторий:
git clone https://github.com/gurveervirk/ToK.git
Перейдите в каталог, содержащий файл docker-compose.yml :
cd ToK/docker
Подавать Олламу в вашей местной системе. ( Приложение может обслуживать его автоматически )
ollama serve
Начните приложение с Docker Compose:
docker-compose up -d
Вариант 2: Запуск исполняемого файла TOK (устарел) (больше не поддерживается)
Посетите страницу релизов и загрузите новейшую ToK.exe в каталог/каталог (приложение создает необходимые файлы и папки для правильной работы).
Измените настройки, запустив приложение один раз и нажав значок «Настройки» в верхнем правом углу:
Имя пользователя: замените на имя пользователя базы данных NEO4J.
Пароль: замените паролем, который вы установили в своем проекте NEO4J.
URI: замените URI вашего проекта NEO4J.
Примечание. Имя пользователя по умолчанию и URI являются значениями по умолчанию для DB NEO4J. Вы также можете изменить его в settings.json , созданный приложением.
Сделанный! Теперь вы готовы начать использовать ток.
Использование
После завершения настройки:
Запустить ток .
Выберите либо пообщаться напрямую с ботом, либо загрузить документы, используя верхнюю кнопку для улучшенных ответов на запросы.
Наслаждайтесь беспрепятственным опытом взаимодействия с местным помощником по знаниям, работающим на местном уровне, который сохраняет ваши данные частными и безопасными.
ПРИМЕЧАНИЕ. При создании нового чата сразу же после того, как побуждая двигатель LLM / чат, последний чат может быть не виден на боковой панели, а чат недоступен в течение нескольких секунд. Это может быть связано с тем, что новый чат хранится с титулом, сгенерированным LLM.
Видео демонстрация
Посмотрите видео ниже, чтобы увидеть Тока в действии:
Визуальный тур
Изучите ключевые функции и пользовательский интерфейс TOK через изображения ниже:
Загрузите модальный
Настройки модальные
Подсказывает модальные
Результаты
Это приложение было успешно протестировано на подмножестве набора данных Viviaqa, и результаты следующие:
Пожалуйста, найдите код для приведенных выше результатов в этой ссылке.