hands on lora

الإنجليزية | 中文

التدريب العملي على لورا: LLMs عملية النحافة العملية باستخدام Lora

التعلم العميق هو علم تجريبي. إذا لم تكن يديك قذرة ، فكيف يمكن أن يكون عقلك أنيقًا؟

مقدمة

: "لورا ، التي تتجمد الأوزان النموذجية المسبقة وحقن مصفوفات التحلل القابلة للتدريب في كل طبقة من بنية المحولات ، مما يقلل بشكل كبير من عدد المعلمات القابلة للدرار للمهام المصب."

A & B (فقط)

أمثلة

LLM	رقم المعلمات	مهمة	لورا/Qlora	شفرة
جيما	2 ب	توليد نص إلى نص	qlora	وصلة
Qwen 2	1.5 ب	اسم التعرف على الكيان	qlora	وصلة
لاما 3	8 ب	التكيف اللغوي	لورا	وصلة

ملحوظة

Lora هي تقنية أنيقة ، ومع ذلك ، تتطلب صقل LLMs مع تكنولوجيا المعلومات جهد هندسي كبير. يتطلب الأداء الأمثل تحسينًا شاملاً. في مستودعنا ، نقدم أمثلة أساسية - استغلها نقطة البداية الخاصة بك. هناك العديد من الخطوات لتحقيق التميز. نحن نشجعك على الاستفادة من مواهبك وإبداعك لتحقيق المزيد من النتائج المتميزة.