Fine_tune_Anything

مستودع ضبط جيد لنماذج اللغة السببية

ملخص ؟

يوفر هذا المستودع أدوات لضبط نماذج اللغة السببية الدقيقة ، والاستفادة من قوة مكتبة PEFT (PYTORCH الفعالة الكفاءة). إنه مصمم لتحسين توليد الكود المصمم على مستودعات محددة.

سمات

• مرونة النموذج ؟: تحميل أي نموذج لغة سببية.
• الإعداد القائم على التكوين : تحديد اختيار النموذج بسهولة ورمز المميز من خلال ملف conf/config.yaml .
• التثبيت الكفاءة ؟ ‍: حاليًا استخدام LORA (التكيف منخفض الرتبة) عبر مكتبة PEFT. المزيد من الطرق قريبًا!
• جاهز في المستقبل ؟: ترقبوا أساليب التدريب لنماذج الأدوات و QA.

ابدء ؟

المتطلبات الأساسية؟

• بيثون 3.x؟
• Pytorch
• مكتبة PEFT
• تبعيات أخرى مدرجة في requirements.txt

تثبيت ؟

1. استنساخ المستودع: git clone [repository URL] : git:
2. قم بإجراء مكان لتخزين بيانات mkdir data ، تأكد من تحديث config.yaml وفقًا لذلك.
3. تثبيت الحزم المطلوبة: pip install -r requirements.txt

إعدادات

قم بتعديل ملف confconfig.yaml لتعيين معلمات النموذج والرمز المميز.

الاستخدام

انطلق عملية الضبط عن طريق تشغيل البرنامج النصي الرئيسي ( python main.py ). سيتم حفظ النموذج المضبط الدقيق في الدليل المحدد في config.yaml -> "التحسين" -> result_dir.

المساهمة؟

نرحب بإسهاماتك لجعل هذه الأداة أكثر كفاءة وغنية بالميزات. يرجى الالتزام بإرشادات المساهمة المفتوحة المصدر.

رخصة ؟

ترخيص Apache 2.0