Finetune LLAMA 2 On Your DataSet AutoTrain From Hugging Face

صقل وادفع مع طراز LLAMA-3.1-8B

يوضح هذا المشروع كيفية ضبط طراز LLAMA-3.1-8B باستخدام محولات LORA ، وتطبيق قوالب الدردشة ، وحفظ النموذج للاستدلال. يتم تدريب النموذج على البيانات المحلية ، وتم تحسينه للتدريب الموفرة للمعلمة ، ويتم نشره في مركز الوجه المعانقة.

ملخص

• النموذج : llama-3.1-8b مع كمية 4 بت لاستخدام الذاكرة الفعال.
• التقنيات : صقل باستخدام محولات LORA (التكيف منخفضة الرتبة) ، وتصوير التدرج ، وقوالب الدردشة.
• البيانات : ملف CSV محلي مخصص يستخدم للتدريب.
• الهدف : تدريب ونشر نموذج chatbot قادر على التعامل مع إدخال المستخدم في التنسيقات المستندة إلى المحادثة.

سمات

• محولات LORA : صقل دقيق معلمة.
• الكمية : استخدام الذاكرة الفعال بدقة 4 بت.
• قوالب الدردشة : تدفق محادثة منظم مع الرمز المميز.
• نشر النموذج : توفير النماذج ودفعها إلى معانقة محور الوجه في تنسيقات كمية مختلفة.

تثبيت

لتشغيل هذا المشروع ، ستحتاج إلى تثبيت الحزم المطلوبة. يمكنك إعداد هذا في Google Colab أو بيئتك المحلية:

pip install torch transformers datasets pandas unsloth trl