vicunia

Vicunia - Alpaka.cpp Chat Frontend und Tooling

Vicunia ist ein Frontend für die Verwendung von Alpaca.cpp und zur Bereitstellung einer GUI für die Installation und das Chatten mit Stanford Alpaca und anderen Modellen aus der Familie llama.cpp . Es ist für Windows, Linux und Mac verfügbar

Herunterladen

Siehe Veröffentlichungen für die neueste Version.

Automatisch einrichten (v2.0+)

• Gehen Sie zur Registerkarte "Setup"
• Klicken Sie auf "Download -Modell"
• Stellen Sie im Menü Optionen auf der Registerkarte Chat sicher, dass der Pfad in den richtigen Ordner (Vicunia Root dir + Ressourcen/Modelle) verweist.

Unter Windows sieht das Vicunia Root dir ungefähr so ​​aus: C:UsersyourusernameAppDataLocalProgramsvicunia

Setup -Handbuch

Folgen Sie dem Leitfaden zu alpaca.cpp!

TL; DR: einen funktionierenden und kompilierten Alpaka.cpp -Ordner mit einem Modell in Ihrem OS Home -Verzeichnis (Windows: C:Users%USERNAME%alpaca.cpp , Linux: /home/%USERNAME%/alpaca.cpp , macos: /Users/%USERNAME%/alpaca.cpp ). Die kompilierten Binärdateien (Chat.exe usw.) und das Modell sollten sich im Ordner alpaka.cpp befinden.

Fehlerbehebung

• Wenn die aktuelle Alpaka.cpp Fehler verursacht, habe ich Zweige auf meiner Gabel getestet, die mit Vicunia arbeiten.
• Unter Windows ist eine CPU mit AVX2 -Unterstützung erforderlich (zumindest mit den enthaltenen Binärdateien).
• Wenn Sie Ihre Version aktualisieren, löschen Sie zuerst .vicunia-settings.json aus dem Home-Ordner, um Probleme zu vermeiden.
• Die Mac -Version wird momentan nicht wirklich getestet

Fühlen Sie sich frei, ein Problem auf Github zu eröffnen!

Todo

• Weitere Optionen
• Markdown -Renderer

So verwenden Sie andere .cpp -Gabeln

• Benennen Sie die ausführbare Datei in chat (OSX / Linux) oder chat.exe
• Die Modelldatei im selben Ordner haben
• Fügen Sie den Pfad zum chat -Ordner im Menü Optionen ein

Credits

• Alpaka.cpp
• lama.cpp
• Dalai