หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>โค้ดแหล่งที่มา AI
ดาวน์โหลด

LLMS

การแนะนำ

คู่มือนี้ได้รับการปรับแต่งสำหรับผู้ใช้ที่มีอุปกรณ์ Apple Silicon ที่สนใจในการทดลองกับ โมเดลภาษาขนาดใหญ่ (LLMS) มันรวมถึงบทสรุปของที่เก็บหลักและทรัพยากรโดยมุ่งเน้นไปที่ที่ปรับให้เหมาะสมสำหรับฮาร์ดแวร์ของ Apple Silicon คู่มือครอบคลุมหัวข้อที่หลากหลายรวมถึง Generation Retrieval-Augmented (RAG), การฝึกอบรมและการปรับแต่ง LLMS, Vision-Language Models (VLM), ชุดข้อมูลและอินเทอร์เฟซผู้ใช้ (UI) แต่ละส่วนมีลิงก์ไปยังที่เก็บและเครื่องมือช่วยให้ผู้ใช้สำรวจและใช้งาน LLMs ได้อย่างมีประสิทธิภาพบนอุปกรณ์ Apple Silicon ของพวกเขา แอปเปิล

Retrieval-Augmented Generation (RAG) ที่เก็บ:

chatllm.cpp

  • ที่เก็บ: chatllm.cpp
  • สรุป: พื้นที่เก็บข้อมูลนี้มีเอกสารและรหัสสำหรับการใช้แบบจำลองการดึง (RAG) แบบจำลองการดึง (RAG) โดยใช้ LLMS โดยให้แนวทางและตัวอย่างสำหรับการรวมกลไกการดึงข้อมูลเข้ากับแบบจำลองภาษา

Modelscope Rag

  • ที่เก็บ: ModelsCope Rag
  • สรุป: สมุดบันทึก Jupyter นี้ให้การสอนเกี่ยวกับการใช้ RAG ด้วยการ Reranking โดยใช้ห้องสมุด LLAMAINDEX มันนำเสนอวิธีการปรับปรุงการสร้างตามการดึงด้วยกลไกการจัดอันดับเพื่อการปรับปรุงประสิทธิภาพ

ผ้าขี้ริ้ว

  • ที่เก็บ: quad-ai rag
  • สรุป: สมุดบันทึกนี้แสดงให้เห็นถึงการใช้ RAG โดยใช้ LLAMA.CPP สำหรับการดึงข้อมูลที่มีประสิทธิภาพและการสร้างการตอบสนอง มันมีคำแนะนำทีละขั้นตอนและตัวอย่างรหัส

mlx rag gguf

  • ที่เก็บ: MLX RAG GGUF
  • สรุป: ที่เก็บนี้มีรหัสและเอกสารประกอบสำหรับการใช้ RAG ด้วยการฝัง GGUF โดยใช้กรอบ MLX มันมุ่งเน้นไปที่การบูรณาการเทคนิคการฝังที่หลากหลายเพื่อการดึงที่เพิ่มขึ้น

การฝัง flagopen

  • ที่เก็บ: การฝัง flagopen
  • สรุป: พื้นที่เก็บข้อมูลมีเครื่องมือและวิธีการสำหรับการสร้างการสร้างและการรวมเข้าด้วยกันในระบบการสร้างแบบเรียกคืน มันมีโมเดลและเทคนิคต่าง ๆ สำหรับงานฝัง

ค็อกเทล LM

  • ที่เก็บ: ค็อกเทล LM
  • สรุป: โครงการนี้มุ่งเน้นไปที่การรวมเทคนิคการฝังและโมเดลที่แตกต่างกันเพื่อสร้างระบบดึงข้อมูลที่มีประสิทธิภาพสำหรับงานการสร้างที่เพิ่มขึ้น มันมีการกำหนดค่าและตัวอย่างต่างๆ

OSX Apple Silicon:

OSX Apple Silicon Gist

  • ที่เก็บ: OSX Apple Silicon Gist
  • สรุป: ส่วนสำคัญที่ให้ขั้นตอนและการกำหนดค่าโดยละเอียดสำหรับการใช้งานรุ่น MLX บนอุปกรณ์ Apple Silicon รวมถึงคำแนะนำการตั้งค่าและเคล็ดลับประสิทธิภาพ

กอดนางแบบ MLX

  • ที่เก็บ: กอดนางแบบ MLX
  • สรุป: คอลเลกชันของโมเดลที่ได้รับการปรับให้เหมาะสมสำหรับ MLX ซึ่งมีอยู่ใน Hugging Face พื้นที่เก็บข้อมูลนี้มีความหลากหลายของแบบจำลองที่เหมาะสมสำหรับงาน ML ที่แตกต่างกันซึ่งได้รับการปรับให้เหมาะสมสำหรับประสิทธิภาพและประสิทธิภาพ

ตัวอย่าง MLX

  • ที่เก็บ: ตัวอย่าง MLX
  • สรุป: ที่เก็บนี้มีการใช้งานตัวอย่างและการใช้กรณีสำหรับโมเดล MLX รวมถึงคำแนะนำทีละขั้นตอนและตัวอย่างรหัสสำหรับงาน ML ต่างๆ

Phi-3 Vision Mlx

  • ที่เก็บ: PHI-3 Vision MLX
  • สรุป: โครงการแสดงการรวมโมเดลการมองเห็นเข้ากับกรอบ MLX โดยให้ตัวอย่างและรายละเอียดการใช้งานสำหรับงานที่เกี่ยวข้องกับการมองเห็น

ทำให้เป็นเสียง

  • ที่เก็บ: lilm
  • สรุป: พื้นที่เก็บข้อมูลนี้มุ่งเน้นไปที่การใช้งานและเพิ่มประสิทธิภาพแบบจำลองภาษาสำหรับการตั้งค่าทรัพยากรต่ำโดยใช้กรอบ MLX สำหรับประสิทธิภาพที่เพิ่มขึ้นบนอุปกรณ์ Apple Silicon

ML การแพร่กระจายที่เสถียร

  • ที่เก็บ: ML การแพร่กระจายที่เสถียร
  • สรุป: โครงการที่อุทิศให้กับการใช้งานและเพิ่มประสิทธิภาพแบบจำลองการแพร่กระจายที่มั่นคงสำหรับ Apple Silicon การจัดการปัญหาประสิทธิภาพและการจัดหาโซลูชั่นสำหรับการดำเนินการที่มีประสิทธิภาพ

การปรับแต่ง MLX Lora

  • ที่เก็บ: MLX LORA ปรับแต่ง
  • สรุป: เอกสารและรหัสสำหรับแบบจำลองการปรับแต่งโดยใช้ LORA ภายในกรอบ MLX โดยให้คำแนะนำและตัวอย่างทีละขั้นตอน

การอภิปราย MLX

  • ที่เก็บ: การอภิปราย MLX
  • สรุป: ฟอรัมสำหรับการหารือเกี่ยวกับแง่มุมต่าง ๆ ของกรอบ MLX รวมถึงเคล็ดลับการใช้งานการแก้ไขปัญหาและการมีส่วนร่วมของชุมชน

nanogpt mlx

  • ที่เก็บ: Nanogpt MLX
  • สรุป: การใช้งานแบบจำลอง GPT น้อยที่สุดที่ได้รับการปรับให้เหมาะสมสำหรับกรอบ MLX โดยให้รหัสและเอกสารประกอบสำหรับการตั้งค่าและการดำเนินการอย่างรวดเร็ว

สายรัดการประเมิน LM

  • ที่เก็บ: สายรัดการประเมิน LM
  • สรุป: เครื่องมือและเกณฑ์มาตรฐานสำหรับการประเมินแบบจำลองภาษารวมถึงการทดสอบมาตรฐานและการวัดประสิทธิภาพสำหรับงานต่างๆ

pikagpt

  • ที่เก็บ: pikagpt
  • สรุป: การใช้งานที่มีน้ำหนักเบาของรุ่น GPT ที่ได้รับการปรับให้เหมาะสมเพื่อประสิทธิภาพและประสิทธิภาพบนอุปกรณ์ Apple Silicon ให้ตัวอย่างและคำแนะนำในการตั้งค่า

การฝึก LLM ในท้องถิ่น Apple Silicon

  • ที่เก็บ: การฝึก LLM ในท้องถิ่น Apple Silicon
  • สรุป: โครงการมุ่งเน้นไปที่การฝึกอบรม LLMS ในท้องถิ่นบนอุปกรณ์ Apple Silicon โดยให้รหัสและเอกสารประกอบสำหรับการตั้งค่าและการดำเนินการ

MLX Notes

  • ที่เก็บ: บันทึก MLX
  • สรุป: คอลเลกชันของโน้ตและคำแนะนำสำหรับการใช้เฟรมเวิร์ก MLX ครอบคลุมแง่มุมต่าง ๆ ตั้งแต่การตั้งค่าไปจนถึงการใช้งานขั้นสูง

Lora Gist

  • ที่เก็บ: Lora Gist
  • สรุป: ส่วนสำคัญที่ให้คำแนะนำโดยละเอียดสำหรับรุ่นปรับแต่งโดยใช้ LORA รวมถึงตัวอย่างโค้ดและเคล็ดลับการตั้งค่า

ตัวอย่าง Llama3 Mac Silicon

  • ที่เก็บ: ตัวอย่าง Llama3 Mac Silicon
  • สรุป: สมุดบันทึกตัวอย่างที่แสดงให้เห็นถึงการใช้โมเดล LLAMA3 บน Mac Silicon รวมถึงการตั้งค่าการดำเนินการและเคล็ดลับประสิทธิภาพ

ดำน้ำลึกลงไปใน AI ด้วย mlx

  • ที่เก็บ: ดำน้ำลึกลงไปใน AI ด้วย MLX
  • สรุป: คู่มือที่ครอบคลุมและการสอนสำหรับการดำน้ำลึกลงไปใน AI โดยใช้กรอบ MLX ครอบคลุมรุ่นต่างๆและกรณีการใช้งาน

แบบจำลอง Vision-Language (VLM):

mlx llava finetuning

  • ที่เก็บ: mlx llava finetuning
  • สรุป: พื้นที่เก็บข้อมูลที่มุ่งเน้นไปที่การปรับแต่งแบบจำลองวิสัยทัศน์ภาษาโดยใช้เฟรมเวิร์ก MLX โดยให้ตัวอย่างและคำแนะนำโดยละเอียด

กระต่าย

  • ที่เก็บ: กระต่าย
  • สรุป: โครงการที่อุทิศให้กับการพัฒนาและเพิ่มประสิทธิภาพโมเดลภาษาวิสัยทัศน์การจัดหารหัสเอกสารและตัวอย่างสำหรับงานต่าง ๆ

LORA/การฝึกอบรม/การปรับแต่ง:

ระบบนิเวศนานาชาติ

  • พื้นที่เก็บข้อมูล: ระบบนิเวศระหว่างประเทศ
  • สรุป: เอกสารและรหัสสำหรับการรวมและใช้โมเดล internlm ภายในระบบนิเวศต่างๆโดยมุ่งเน้นไปที่การฝึกอบรมและการปรับแต่ง

การปรับแต่ง

  • ที่เก็บ: การปรับแต่ง internlm
  • สรุป: พื้นที่เก็บข้อมูลที่ให้คำแนะนำโดยละเอียดและรหัสสำหรับแบบจำลองการปรับแต่งแบบปรับแต่งรวมถึงแนวทางการตั้งค่าและแนวทางปฏิบัติ

ModelsCope Swift

  • ที่เก็บ: ModelsCope Swift
  • สรุป: โครงการที่อุทิศให้กับการปรับให้เหมาะสมและปรับใช้โมเดลโดยใช้ Swift Framework ให้ตัวอย่างและเอกสารประกอบสำหรับงานต่างๆ

litgpt

  • ที่เก็บ: LITGPT
  • สรุป: พื้นที่เก็บข้อมูลมุ่งเน้นไปที่การใช้งานและเพิ่มประสิทธิภาพโมเดล GPT โดยใช้ Lightning Framework ให้ตัวอย่างและคำแนะนำโดยละเอียดสำหรับการฝึกอบรมและการปรับแต่ง

ชุดข้อมูล:

หม้อ

  • ที่เก็บ: หม้อ
  • สรุป: ที่เก็บข้อมูลชุดข้อมูลเกี่ยวกับการกอดใบหน้าให้ชุดข้อมูลสำหรับการฝึกอบรมและประเมินผลการเรียนรู้ของเครื่องรวมถึงคำอธิบายโดยละเอียดและแนวทางการใช้งาน

GUI:

librechat

  • ที่เก็บ: librechat
  • สรุป: Liberchat เป็นโครงการโอเพนซอร์ซสำหรับการสร้างและจัดการอินเทอร์เฟซแชทสำหรับรูปแบบภาษาให้บริการคุณสมบัติที่ปรับแต่งได้และตัวเลือกการรวมสำหรับแพลตฟอร์มต่างๆ

นักเทียบท่า ฯลฯ

  • Brew ติดตั้ง llama.cpp
  • LLAMA-CLI-HF-Repo REACH-VB/META-LLAMA-3.1-8B-Instruct-Q6_K-GGUF-HF-FILE META-LLAMA-3.1-8B-Instruct-Q6_K.GGUF -P "SUP?" -ขนาด 8192

รุ่นใช้ ~ 7.0GB RAM

เสียง

การถอดความวิดีโอที่ขับเคลื่อนด้วย MLX

  • ที่เก็บ: https://github.com/rayfernando1337/mlx-auto-subtitled-video-generator/
  • สรุป: แอปพลิเคชัน StreamLit นี้อนุญาตให้ผู้ใช้อัปโหลดไฟล์วิดีโอและสร้างการถอดเสียงที่ถูกต้องโดยใช้เฟรมเวิร์ก MLX ของ Apple

ไม่ได้เรียงลำดับ

  • https://github.com/linyilyi/bilibot/tree/main
  • https://github.com/harperreed/photo-similarity-search
  • https://github.com/hiyouga/llama-factory
  • https://github.com/instructlab/instructlab
  • https://github.com/modelscope/swift -https: //github.com/lyogavin/airllm/blob/main/air_llm/examples/run_macos.ipynb
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด