الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

LLMS

مقدمة

تم تصميم هذا الدليل للمستخدمين الذين لديهم أجهزة Apple Silicon المهتمة بتجربة نماذج لغة كبيرة (LLMS). ويشمل ملخصات للمستودعات والموارد الرئيسية ، مع التركيز على تلك المحسنة لأجهزة Silicon Apple. يغطي الدليل مجموعة متنوعة من الموضوعات ، بما في ذلك التوليد المتمحور بالاسترجاع (RAG) ، والتدريب والضباب LLMs ، ونماذج اللغة الرؤية (VLM) ، ومجموعات البيانات ، وواجهات المستخدم (UI). يوفر كل قسم روابط للمستودعات والأدوات ، مما يساعد المستخدمين على استكشاف وتنفيذ LLMs بشكل فعال على أجهزة Silicon Apple الخاصة بهم. تفاحة

مستودعات الجيل المسبق للاسترجاع (RAG):

Chatllm.cpp

  • مستودع: Chatllm.cpp
  • ملخص: يتضمن هذا المستودع توثيقًا ورمزًا لتنفيذ نماذج التوليد (RAG) المتمثل في استرجاع الاسترجاع باستخدام LLMS ، وتوفير إرشادات وأمثلة لدمج آليات الاسترجاع مع نماذج اللغة.

طرازات RAT

  • المستودع: ModelsCope Rag
  • ملخص: يوفر دفتر Jupyter هذا البرنامج التعليمي حول تنفيذ RAT مع Reranking باستخدام مكتبة Llamaindex. ويوضح كيفية تعزيز توليد الاسترجاع مع آليات التصنيف لتحسين الأداء.

ربع أاي خرقة

  • مستودع: Quad-Ai Rag
  • ملخص: يوضح هذا الكمبيوتر الدفتري تنفيذ RAG باستخدام llama.cpp لاسترجاع المعلومات الفعال وتوليد الاستجابة. ويتضمن تعليمات خطوة بخطوة ومقتطفات التعليمات البرمجية.

MLX RAG GGUF

  • المستودع: MLX RAG GGUF
  • ملخص: يحتوي هذا المستودع على رمز ووثائق لتنفيذ RAT مع JGUF التضمينات باستخدام إطار عمل MLX. وهو يركز على دمج تقنيات التضمين المختلفة لتحسين الاسترجاع.

التضمين Flagopen

  • مستودع: تضمين Flagopen
  • ملخص: يوفر المستودع أدوات وطرق لتضمين توليد وتكامل أنظمة التوليد المتمثلة في الاسترجاع. ويشمل مختلف النماذج والتقنيات لتضمين مهام.

LM كوكتيل

  • مستودع: LM كوكتيل
  • ملخص: يركز هذا المشروع على الجمع بين تقنيات ونماذج التضمين المختلفة لإنشاء نظام استرجاع قوي لمهام التوليد المعززة. ويشمل العديد من التكوينات والأمثلة.

Silicon OSX Apple:

OSX Apple Silicon Gist

  • المستودع: OSX Apple Silicon Gist
  • ملخص: جوهر يوفر خطوات وتكوينات مفصلة لتشغيل نماذج MLX على أجهزة Apple Silicon ، بما في ذلك تعليمات الإعداد ونصائح الأداء.

معانقة نماذج MLX

  • المستودع: معانقة نماذج MLX وجه
  • ملخص: مجموعة من النماذج الأمثل لـ MLX ، متوفرة على وجه المعانقة. يوفر هذا المستودع مجموعة متنوعة من النماذج المناسبة لمهام ML المختلفة ، وتم تحسينها للأداء والكفاءة.

أمثلة MLX

  • المستودع: أمثلة MLX
  • ملخص: يحتوي هذا المستودع على مثال على تطبيقات وحالات الاستخدام لنماذج MLX ، بما في ذلك أدلة خطوة بخطوة ومقتطفات التعليمات البرمجية لمختلف مهام ML.

PHI-3 Vision MLX

  • المستودع: PHI-3 Vision MLX
  • ملخص: مشروع يعرض دمج نماذج الرؤية مع إطار عمل MLX ، وتوفير أمثلة وتفاصيل التنفيذ للمهام المتعلقة بالرؤية.

ليلم

  • مستودع: ليلم
  • ملخص: يركز هذا المستودع على تنفيذ نماذج اللغة وتحسينها للإعدادات ذات الموارد المنخفضة ، مع استخدام إطار MLX لتحسين الأداء على أجهزة Silicon Apple.

ML انتشار مستقر

  • المستودع: ML انتشار مستقر
  • ملخص: مشروع مخصص لتنفيذ وتحسين نماذج الانتشار المستقرة لسيليكون Apple ، معالجة مشكلات الأداء وتوفير حلول للتنفيذ الفعال.

MLX Lora Tuning

  • المستودع: MLX Lora Tuning
  • ملخص: الوثائق والرمز لنماذج الضبط الدقيقة باستخدام LORA ضمن إطار عمل MLX ، مما يوفر تعليمات وأمثلة خطوة بخطوة.

مناقشات MLX

  • المستودع: مناقشات MLX
  • ملخص: منتدى لمناقشة الجوانب المختلفة من إطار عمل MLX ، بما في ذلك نصائح الاستخدام ، استكشاف الأخطاء وإصلاحها ، ومساهمات المجتمع.

nanogpt MLX

  • المستودع: Nanogpt MLX
  • ملخص: تم تنفيذ الحد الأدنى من نماذج GPT المحسّنة لإطار عمل MLX ، مما يوفر التعليمات البرمجية والوثائق للإعداد السريع والتنفيذ.

تسخير تقييم LM

  • المستودع: تسخير تقييم LM
  • ملخص: الأدوات والمعايير لتقييم نماذج اللغة ، بما في ذلك الاختبارات الموحدة ومقاييس الأداء لمختلف المهام.

pikagpt

  • المستودع: Pikagpt
  • ملخص: تنفيذ خفيف الوزن لنماذج GPT محسّنة للكفاءة والأداء على أجهزة Silicon Apple ، وتوفير أمثلة وإرشادات الإعداد.

محلي LLM تدريب سيليكون Apple

  • المستودع: تدريب LLM المحلي على Apple Silicon
  • ملخص: مشروع يركز على تدريب LLMs المحلية على أجهزة Apple Silicon ، وتوفير التعليمات البرمجية والوثائق للإعداد والتنفيذ.

ملاحظات MLX

  • المستودع: ملاحظات MLX
  • ملخص: مجموعة من الملاحظات والأدلة لاستخدام إطار عمل MLX ، تغطي جوانب مختلفة من الإعداد إلى الاستخدام المتقدم.

لورا جست

  • المستودع: لورا جست
  • ملخص: جوهر يوفر إرشادات مفصلة لنماذج الضبط الدقيقة باستخدام LORA ، بما في ذلك قصاصات التعليمات البرمجية ونصائح الإعداد.

مثال LLAMA3 MAC السيليكون

  • مستودع: مثال على السيليكون Llama3 MAC
  • ملخص: مثال على مثال يوضح استخدام نماذج LLAMA3 على سيليكون MAC ، بما في ذلك نصائح الإعداد والتنفيذ والأداء.

الغوص العميق في الذكاء الاصطناعي مع MLX

  • المستودع: الغوص العميق في الذكاء الاصطناعي مع MLX
  • ملخص: دليل شامل وبرنامج تعليمي للغوص في أعماق الذكاء الاصطناعي باستخدام إطار عمل MLX ، ويغطي نماذج مختلفة وحالات الاستخدام.

نماذج لغة الرؤية (VLM):

MLX LLAVA FINETUNING

  • المستودع: MLX LLAVA FINETUNING
  • ملخص: ركز مستودع يركز على نماذج صقل الرؤية باستخدام إطار عمل MLX ، مما يوفر أمثلة وتعليمات مفصلة.

الأرنب

  • مستودع: الأرنب
  • ملخص: مشروع مخصص لتطوير وتحسين نماذج لغة الرؤية ، وتوفير التعليمات البرمجية ، والوثائق ، والأمثلة لمختلف المهام.

لورا/تدريب/صقل:

internlm النظام البيئي

  • المستودع: النظام البيئي Internlm
  • ملخص: الوثائق والرمز لدمج نماذج InternLM واستخدامها داخل مختلف النظم الإيكولوجية ، مع التركيز على التدريب والضبط.

صقل داخلي

  • مستودع: صقل داخلي
  • ملخص: مستودع يوفر إرشادات ورمز مفصل لنماذج صياغة النماذج الداخلية ، بما في ذلك إرشادات الإعداد والتنفيذ.

ModelsCope Swift

  • مستودع: ModelsCope Swift
  • ملخص: مشروع مخصص لتحسين ونشر النماذج باستخدام إطار عمل SWIFT ، وتوفير أمثلة ووثائق لمختلف المهام.

litgpt

  • مستودع: litgpt
  • ملخص: يركز مستودع على تنفيذ وتحسين نماذج GPT باستخدام إطار Lightning ، وتوفير أمثلة وتعليمات مفصلة للتدريب والضبط.

مجموعات البيانات:

المرجل

  • المستودع: المرجل
  • ملخص: مستودع مجموعة البيانات حول معانقة الوجه الذي يوفر مجموعة من مجموعات البيانات للتدريب وتقييم نماذج التعلم الآلي ، بما في ذلك الأوصاف التفصيلية وإرشادات الاستخدام.

واجهة المستخدم الرسومية:

Librechat

  • مستودع: Librechat
  • ملخص: يعد Librechat مشروعًا مفتوح المصدر لبناء وإدارة واجهات الدردشة لنماذج اللغة ، مما يوفر ميزات وخيارات التكامل القابلة للتخصيص لمختلف المنصات.

Docker الخ

  • مشروب تثبيت llama.cpp
  • Llama-Cli-Hf-Repo Reach-VB/Meta-llama-33.1-8b-instruct-q6_k-gguf-hf-file meta-llama-3.1-8b-instruct-q6_k.gguf -p "sup؟" -CTX-SIZE 8192

يستخدم النموذج ~ 7.0 جيجابايت ذاكرة الوصول العشوائي.

صوتي

نسخ فيديو مدعوم من MLX

  • المستودع: https://github.com/rayfernando1337/mlx-auto-subtitled-vide-generator/
  • ملخص: يتيح تطبيق SPEREMLIT للمستخدمين تحميل ملفات الفيديو وإنشاء نصوص دقيقة باستخدام إطار عمل MLX من Apple

غير مصنفة

  • https://github.com/linyilyi/bilibot/tree/main
  • https://github.com/harperreed/photo-similarity-search
  • https://github.com/hiyouga/llama-factory
  • https://github.com/instructlab/instructlab
  • https://github.com/modelscope/swift-https: //github.com/lyogavin/airllm/blob/main/air_llm/examples/run_on_macos.ipynb
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل