ChatGPTCLIBot

Примечание: больше не поддерживается

До свидания всем!

Как вы могли заметить, ландшафт LLMS резко изменился в последние месяцы. С внедрением моделей, имеющих колоссальные более 100 000 токенов контекстной памяти и таких крупных игроков, как Openai, Google и антропическая интеграция RAG непосредственно в свои официальные веб -сайты, я чувствую, что этот репо обслуживал свою цель.

Я также сосредотачивался на других проектах и ​​расстанавливал приоритеты своей личной жизни и психического благополучия. В результате я не смог посвятить время обновлению этого репо, что видно из отсутствия коммитов за последние несколько месяцев.

Оглядываясь назад, этот репо был первоначально создан для устранения ограничений 4096 Context GPT-3, поскольку этот размер контекста был слишком маленьким. Однако с достижениями в LLMS и появлении лучших графических интерфейсов, я считаю, что более высокий контекст теперь предпочтительнее использования внедрения для Rag.

Если вы ищете потрясающие GUI LLM, вот мои главные рекомендации:

• Sillytavern - идеально подходит для Бот Фукинг Ролевая игра и даже обладает поддержкой RAG!
• Lobechat - отлично подходит для использования LLM общего назначения, хотя у него нет тряпки.
• BetterChatgpt - еще один фантастический вариант для использования LLM общего назначения, специально разработанного для OpenAI. Хотя это не активно поддерживается, пользовательский интерфейс очень напоминает оригинальный веб -сайт CHATGPT.

(Пожалуйста, не несчадь этого репо?)

Chatgpt Cli Bot

Запустите gpt-3.5-turbo или любые другие модели GPT ( text-davinci-003 ) с этой программой!
Используйте gpt-4 или gpt-4-32k чтобы использовать новые модели GPT-4, если у вас есть доступ.
Вы можете переключать модели в файле config.json .
Это как https://chat.openai.com/, но в вашем CMD и лучше (с точки зрения памяти).
Вы можете добавить пользовательские начальные подсказки и сохранить/загрузить историю чата!
Загрузите и дважды щелкните GPT3Bot.exe или run.bat чтобы запустить программу!
В Linux и MacOS вы можете запустить ./GPT3Bot для запуска программы.

Нажмите, чтобы загрузить: стабильный релиз | Развитие сборка
Пожалуйста, проверьте вики для получения дополнительной информации: Нажмите меня

Особенности/Руководство:

1. Долгосрочная поддержка памяти! Продолжаете попадать в предел контекста токенов 4096? Не беспокойтесь больше с этим ботом CLI. Он имеет почти бесконечную контекстную память (если у вас есть бесконечное пространство диска LOL), все благодаря Entgeddings! Если вы хотите увидеть, как эта программа обрабатывает встраивание внутри, установите debug_reference на true in config.json !
2. Q & A с помощью пользовательских документов Поддержка! Вы можете загрузить пользовательские документы и выполнить с ними вопросы и ответы, пожалуйста, проверьте вики для получения дополнительной информации.
3. Вы можете использовать /stop , чтобы закончить и сохранить чат.
4. Вы можете использовать /undo , чтобы отменить свою последнюю подсказку.
5. Вы можете использовать /reset для сброса всего чата.
6. Вы можете использовать /dump , чтобы сбрасывать историю чата в файл .txt в папке dump .
7. Вы можете разместить файлы .txt в папку «Начальная» для установки различных начальных подсказок, и вы можете использовать имя файла для загрузки его при открытии программы. Просто напрямую нажмите Enter после открытия программы, затем введите имя исходного файла подсказок и нажмите Enter, чтобы загрузить ее.
8. После выполнения /stop программа попросит вас ввести имя файла для сохранения. Вы можете нажать Enter непосредственно, чтобы пропустить это, а не сохранить чат. Если вы введете какой -либо другой текст, а затем нажмите Enter, чат будет сохранен в JSON в папке «Сохраняется». Когда вы откроете программу в следующий раз, вы можете просто ввести «S» (что означает сохранение), нажмите Enter, затем введите имя файла сохраненного чата JSON, чтобы загрузить сохраненный чат.
9. Easy Config File в config.json , может быть легко изменен.
10. В отличие от других ботов, этот фактически течет. Это означает, что он отобразит вывод, как только токен отправляется из API (точно так же, как делает веб -сайт CHATGPT), не нужно ждать, пока весь ответ не будет сгенерирован!
11. Когда ответ транслируется, вы можете нажать Ctrl+C, чтобы отменить поток.
12. Автоматически используйте системную прокси. Примечание. Эта функция поддерживается только в Windows, потому что в моей прокси -библиотеке есть ошибка, которая заставляет ее не составить на Linux и MacOS.
13. Многослойная поддержка ввода, вам необходимо нажать Ctrl+N или Alt+Enter, чтобы ввести новую линию.
14. CTRL+V Saveing ​​Support, вы можете вставить текст из вашего буфера обмена, нажав CTRL+V.
15. Полная поддержка UTF-8, вы можете ввести любой язык, который вы хотите!
16. Полный цветов (если ваш терминал поддерживает его)!
17. Fine Tune Helper, вы можете легче настраивать базовые модели (только для профессиональных пользователей).
18. Автопроводчик, вы можете автоматически переводить текстовые файлы.

Написано в C ++ (библиотеки используются: Boost, Curl, Nlohmann/Json, LibProxy, CPP-конце

Поддерживаемая ОС:

• Windows 10/11 64-бит
• Linux 64-бит (протестировано на Ubuntu 20.04 & Centos 8) (не будет работать на Ubuntu 18.04, Centos 7 и ниже, потому что они не поддерживают C ++ 17)
• MacOS 64-бит (не проверял, но он должен работать на MacOS 12 и выше)