LlamaChat

แชทกับรุ่น Llama ที่คุณชื่นชอบบน Mac ของคุณ

---

Llamachat เป็นแอพ MacOS ที่ให้คุณแชทกับ Llama, Alpaca และ GPT4ALL รุ่นทั้งหมดที่ใช้งานใน Mac ของคุณ

เริ่มต้น

Llamachat ต้องการ MacOS 13 Ventura และโปรเซสเซอร์ Intel หรือ Apple Silicon

ดาวน์โหลดโดยตรง

ดาวน์โหลด .dmg ที่มีเวอร์ชันล่าสุดที่นี่?

อาคารจากแหล่งกำเนิด

git clone https://github.com/alexrozanski/LlamaChat.git
cd LlamaChat
open LlamaChat.xcodeproj

หมายเหตุ: Llamachat รวมถึง Sparkle for autoupdates ซึ่งจะล้มเหลวในการโหลดหาก Llamachat ไม่ได้ลงนาม ตรวจสอบให้แน่ใจว่าคุณใช้ใบรับรองการลงนามที่ถูกต้องเมื่อสร้างและใช้งาน Llamachat

หมายเหตุ: การอนุมานแบบจำลองทำงานช้ามากในการดีบักสร้างดังนั้นหากการสร้างจากแหล่งที่มาตรวจสอบให้แน่ใจว่า Build Configuration ใน LlamaChat > Edit Scheme... > Run ถูกตั้งค่าให้ Release

คุณสมบัติ

• โมเดลที่ได้รับการสนับสนุน: Llamachat รองรับ Llama, Alpaca และ GPT4ALL แบบจำลองนอกกรอบ การสนับสนุนสำหรับรุ่นอื่น ๆ รวมถึง Vicuna และ Koala กำลังจะมาเร็ว ๆ นี้ นอกจากนี้เรายังกำลังมองหาวิทยากรจีนและฝรั่งเศสเพื่อเพิ่มการสนับสนุนสำหรับ Llama/Alpaca และ Vigogne ของจีน
• รูปแบบโมเดลที่มีความยืดหยุ่น: Llamachat สร้างขึ้นที่ด้านบนของ llama.cpp และ llama.swift แอพรองรับการเพิ่มโมเดล LLAMA ในรูปแบบจุดตรวจ Pytorch .pth ดิบหรือรูปแบบ . .ggml
• การแปลงแบบจำลอง: หากมีการเพิ่มจุดตรวจสอบ pytorch ดิบสิ่งเหล่านี้สามารถแปลงเป็นไฟล์ .ggml ที่เข้ากันได้กับ llamachat และ llama.cpp ภายในแอพ
• ประวัติการแชท: ประวัติการแชทยังคงอยู่ภายในแอพ ทั้งประวัติการแชทและบริบทของโมเดลสามารถล้างได้ตลอดเวลา
• Avatars Funky: Llamachat Ships พร้อมอวตาร 7 อันที่สามารถใช้กับแหล่งแชทของคุณได้
• การตั้งชื่อแหล่งที่มาขั้นสูง: Llamachat ใช้ Magic ™พิเศษเพื่อสร้างชื่อที่ขี้เล่นสำหรับแหล่งแชทของคุณ
• การดีบักบริบท: สำหรับผู้ที่ชื่นชอบ ML ที่กระตือรือร้นบริบทโมเดลปัจจุบันสามารถดูได้สำหรับการแชทใน Popover INFO

- แบบจำลอง

หมายเหตุ: Llamachat ไม่ได้จัดส่งด้วยไฟล์โมเดลใด ๆ และต้องการให้คุณได้รับสิ่งเหล่านี้จากแหล่งข้อมูลที่เกี่ยวข้องตามข้อกำหนดและเงื่อนไขที่เกี่ยวข้อง

• รูปแบบรูปแบบ: Llamachat ช่วยให้คุณใช้ตระกูล Llama ของโมเดลในรูปแบบจุดตรวจ Python ดิบ ( .pth ) หรือไฟล์. .ggml ที่แปลงล่วงหน้า (รูปแบบที่ใช้โดย llama.cpp ซึ่งเป็นพลัง Llamachat)
• การใช้รุ่น Llama: เมื่อนำเข้าโมเดล Llama ในรูปแบบ .pth :
  • คุณควรเลือกไดเรกทอรีขนาดพารามิเตอร์ที่เหมาะสม (เช่น 7B , 13B ฯลฯ ) ในโฟลว์การแปลงซึ่งรวมถึงไฟล์ consolidated.NN.pth และ params.json
  • ตามการเปิดตัวโมเดล Llama ไดเรกทอรีหลักควรมี tokenizer.model เช่นการใช้โมเดล LLAMA-13B ไดเรกทอรีโมเดลของคุณควรมีลักษณะเหมือนด้านล่างและคุณควรเลือกไดเรกทอรี 13B :

 .
│   ...
├── 13B
│   ├── checklist.chk.txt
│   ├── consolidated.00.pth
│   ├── consolidated.01.pth
│   └── params.json
│   ...
└── tokenizer.model

• การแก้ไขปัญหา: หากใช้ไฟล์ .ggml ตรวจสอบให้แน่ใจว่าสิ่งเหล่านี้เป็นปัจจุบัน หากคุณพบปัญหาคุณอาจต้องใช้สคริปต์แปลงจาก llama.cpp:
  • สำหรับรุ่น gpt4all คุณอาจต้องใช้ Convert-gpt4all-to-ggml.py
  • สำหรับโมเดล alpaca คุณอาจต้องใช้ Convert-unversioned-ggml-to-ggml.py
  • คุณอาจต้องใช้ Migrate-GGML-20123-03-30-PR613.py เช่นกัน สำหรับข้อมูลเพิ่มเติมตรวจสอบ repo llama.cpp

? ‍ การบริจาค

การร้องขอและปัญหายินดีต้อนรับและชื่นชมมาก โปรดตรวจสอบให้แน่ใจว่าได้ปฏิบัติตามจรรยาบรรณตลอดเวลา

Llamachat ถูกสร้างขึ้นอย่างเต็มที่โดยใช้ Swift และ Swiftui และใช้ประโยชน์จาก Llama.swift ภายใต้ฮูดเพื่อใช้การอนุมานและดำเนินการแบบจำลอง

โครงการส่วนใหญ่ถูกสร้างขึ้นโดยใช้ MVVM และใช้ประโยชน์จากการรวมกันอย่างรวดเร็วและอย่างรวดเร็ว

⚖ใบอนุญาต

Llamachat ได้รับใบอนุญาตภายใต้ใบอนุญาต MIT