vicunia

VICUNIA - ALPACA.CPP CHAT FRONTENT et TOLLING

VICUNIA est un frontend pour utiliser alpaca.cpp et fournir une interface graphique pour installer et discuter avec Stanford Alpaca et d'autres modèles de la famille llama.cpp . Il est disponible pour Windows, Linux et Mac

Télécharger

Voir les versions de la dernière version.

Configuration automatique (v2.0 +)

• Accédez à l'onglet "Configuration"
• Cliquez sur "Télécharger le modèle"
• Dans le menu Options dans l'onglet CHAT, assurez-vous que le chemin pointe vers le dossier correct (vicunia root dir + ressources / modèles)

Sur Windows, le Dir racine de Vicunia ressemble à ceci: C:UsersyourusernameAppDataLocalProgramsvicunia

Manuel de configuration

Suivez le guide sur alpaca.cpp!

TL; DR: Ayez un dossier ALPACA.CPP fonctionnel et compilé avec un modèle dans votre répertoire personnel de système d'exploitation (Windows: C:Users%USERNAME%alpaca.cpp , Linux: /home/%USERNAME%/alpaca.cpp %Username%/Alpaca.cpp, macOS: /Users/%USERNAME%/alpaca.cpp ). Les binaires compilés (chat.exe, etc.) et le modèle doivent être à la racine du dossier alpaca.cpp.

Dépannage

• Si ALPACA.CPP actuel lance des erreurs, j'ai testé des branches sur ma fourche qui fonctionnent avec la vicunia.
• Sur Windows, le CPU avec le support AVX2 est requis (au moins avec les binaires inclus).
• Si vous mettez à jour votre version, essayez d'abord de supprimer .vicunia-settings.json du dossier à domicile pour éviter les problèmes.
• La version Mac n'est pas vraiment testée pour le moment

N'hésitez pas à ouvrir un problème sur Github!

FAIRE

• Plus d'options
• Rendu Markdown

Comment utiliser d'autres fourchettes .cpp

• Renommer l'exécutable pour chat (OSX / Linux) ou chat.exe
• avoir un fichier modèle dans le même dossier
• Coller le dossier Path to chat dans le menu Options

Crédits

• alpaca.cpp
• lama.cpp
• dalaï