chatd

Чатд. МП4

Общайтесь с вашими документами, используя местный ИИ. Все ваши данные остаются на вашем компьютере и никогда не отправляются в облако. Чатд - это совершенно приватный и надежный способ взаимодействия с вашими документами.

Чатд-это настольное приложение, которое позволяет вам использовать локальную модель большого языка ( Mistral-7B ) для общения с вашими документами. Что отличает Чатд от других приложений «чат с местными документами», так это то, что он поставляется с местным бегуном LLM, упакованным. Это означает, что вам не нужно устанавливать что -либо еще, чтобы использовать Chatd, просто запустите исполняемый файл.

Чатд использует Ollama для запуска LLM. Ollama-это сервер LLM, который обеспечивает кроссплатформенную API LLM Runner. Если у вас уже есть экземпляр Ollama, работающий локально, Chatd автоматически использует его. В противном случае Chatd запустит для вас сервер Ollama и управляет своим жизненным циклом.

QuickStart

1. Загрузите последний релиз со страницы Chatd.ai или на странице релизов.
2. Разанипируйте загруженный файл.
3. Запустите исполняемый файл chatd .

Расширенная настройка

• Включить поддержку GPU.
• Выберите пользовательскую модель.

Ссылки

• чат
• Ollama.ai

Разработка

Запустите следующие команды в корневом каталоге.

npm install
npm run start

Упаковка и распространение

MacOS

1. Загрузите последний релиз ollama-darwin для MacOS отсюда.
2. Сделайте загруженный бинарный исполняемый файл: chmod +x path/to/ollama-darwin
3. Скопируйте исполняемый файл ollama-darwin в каталог chatd/src/service/ollama/runners .
4. Необязательно: приложение для электронов будет подписано, чтобы иметь возможность работать в системах macOS, отличных от того, которое оно было скомпилировано, поэтому вам нужен сертификат разработчика. Чтобы подписать приложение, установите следующие переменные среды:

[email protected]
APPLE_IDENTITY= " Developer ID Application: Your Name (ABCDEF1234) "
APPLE_ID_PASSWORD=your_apple_id_app_specific_password
APPLE_TEAM_ID=ABCDEF1234

Вы можете найти свой Apple ID, идентификатор команды Apple и приложение Apple ID в своей учетной записи Apple Developer. Вы можете создать здесь пароль для приложения.

5. Запустите npm run package , чтобы упаковать приложение.

Окна

1. Загрузите последний релиз ollama-windows-amd64.zip отсюда.
2. Скопируйте содержимое Zip в chatd/src/service/ollama/runners/ .
3. Запустите npm run package , чтобы упаковать приложение.

Примечание. Приложение Windows не подписано, поэтому вы получите предупреждение при его запусках.

Linux

1. Загрузите последний релиз ollama-linux-amd64 отсюда.
2. Скопируйте исполняемый файл ollama в chatd/src/service/ollama/runners/ollama-linux .
3. Запустите npm run package , чтобы упаковать приложение.