vicunia

Vicunia - Alpaca.cpp Frontend and Toolend

Vicunia является фронтом для использования Alpaca.cpp и предоставления графического интерфейса для установки и общения со Стэнфордской альпакой и другими моделями из семьи llama.cpp . Он доступен для Windows, Linux и Mac

Скачать

Смотрите релизы для последней версии.

Автоматическая настройка (v2.0+)

• Перейти на вкладку «Настройка»
• Нажмите "Скачать модель"
• В меню «Параметры» на вкладке чата убедитесь, что путь указывает на правильную папку (Vicunia root dir + resources/models)

В Windows Vicunia Root Dir выглядит примерно так: C:UsersyourusernameAppDataLocalProgramsvicunia

Руководство по настройке

Следуйте руководству на Alpaca.cpp!

TL; DR: иметь работающую и составленную папку alpaca.cpp с моделью в вашем справочнике OS (Windows: C:Users%USERNAME%alpaca.cpp , linux: /home/%USERNAME%/alpaca.cpp , macos: /Users/%USERNAME%/alpaca.cpp ). Скомпилированные двоичные файлы (чат.

Поиск неисправностей

• Если текущий Alpaca.cpp бросает ошибки, я проверил ветви на своей вилке, которые работают с Vicunia.
• В Windows требуется процессор с поддержкой AVX2 (по крайней мере, со включенными двоичными файлами).
• Если вы обновите свою версию, попробуйте удалить .vicunia-settings.json из домашней папки сначала, чтобы избежать проблем.
• Версия Mac на самом деле не протестирована прямо сейчас

Не стесняйтесь открывать проблему на GitHub!

Тодо

• больше вариантов
• Marckdown рендерер

Как использовать другие вилки .cpp

• Переименовать исполняемый файл в chat (OSX / Linux) или chat.exe
• иметь модельный файл в той же папке
• Вставьте путь к папке chat в меню «Параметры»

Кредиты

• Alpaca.cpp
• llama.cpp
• Далай