vicunia

Vicunia - Alpaca.cpp Chat Frontend and Tooling

Vicunia adalah frontend untuk menggunakan alpaca.cpp dan menyediakan GUI untuk menginstal dan mengobrol dengan Stanford Alpaca dan model lain dari keluarga llama.cpp . Ini tersedia untuk Windows, Linux dan Mac

Unduh

Lihat rilis untuk versi terbaru.

Pengaturan Otomatis (V2.0+)

• Buka tab "Pengaturan"
• Klik "Model Unduh"
• Di menu Opsi di tab Obrolan, pastikan jalur menunjuk ke folder yang benar (Vicunia Root Dir + Resources/Model)

Di Windows, Vicunia Root Dir terlihat seperti ini: C:UsersyourusernameAppDataLocalProgramsvicunia

Pengaturan Manual

Ikuti panduan di alpaca.cpp!

TL; DR: Memiliki folder alpaca.cpp yang berfungsi dan dikompilasi dengan model di direktori home OS Anda (Windows: C:Users%USERNAME%alpaca.cpp , linux: /home/%USERNAME%/alpaca.cpp , macos: /Users/%USERNAME%/alpaca.cpp ). Binari yang dikompilasi (chat.exe, dll.) Dan model harus berada di akar folder alpaca.cpp.

Pemecahan masalah

• Jika alpaca.cpp saat ini melakukan kesalahan, saya telah menguji cabang pada garpu saya yang bekerja dengan Vicunia.
• Di Windows, CPU dengan dukungan AVX2 diperlukan (setidaknya dengan binari yang disertakan).
• Jika Anda memperbarui versi Anda, coba hapus .vicunia-settings.json dari folder home terlebih dahulu untuk menghindari masalah.
• Versi Mac tidak benar -benar diuji sekarang

Jangan ragu untuk membuka masalah di GitHub!

Todo

• lebih banyak opsi
• Penanda Markdown

Cara menggunakan garpu .cpp lainnya

• Ubah nama dieksekusi menjadi chat (OSX / Linux) atau chat.exe
• memiliki file model di folder yang sama
• Tempel jalur ke folder chat di menu opsi

Kredit

• alpaca.cpp
• llama.cpp
• Dalai