Transformers هي مكتبة Python التي تم تطويرها عن طريق Hugging Face ، والتي تدعم تحميل معظم نماذج اللغة التي تم تدريبها مسبقًا. مع ظهور نماذج مثل BERT و GPT ، يستخدم المزيد والمزيد من المستخدمين مكتبة Transformers لبناء تطبيقات معالجة اللغة الطبيعية.
هذا المشروع عبارة عن مستودع رمز لبرنامج "بدء تشغيل مكتبة Transformers السريع" ، ويتم تنظيم الرمز على النحو التالي:
- البيانات : يخزن مجموعة البيانات المستخدمة ؛
- SRC : تخزين رمز عينة ، كل مهمة تتوافق مع مجلد ، والذي يمكن تنزيله واستخدامه بشكل منفصل.
هذا البرنامج التعليمي قيد التحديث ويضيف تدريجياً المحتوى ذي الصلة إلى نموذج اللغة الكبير.
بداية سريعة لمكتبة Transformers
الجزء الأول: المعرفة الأساسية
- الفصل 1: معالجة اللغة الطبيعية
- الفصل 2: نموذج المحولات
- الفصل 3: آلية الانتباه
الجزء 2: الاجتماع الأول مع المحولات
- الفصل 4: خطوط الأنابيب خارج الصندوق
- الفصل 5: نموذج Partitioner و Word
- الفصل السادس: معرفة Pytorch الضرورية
- الفصل السابع: صقل النموذج المسبق للمدربة
الجزء 3: المعركة العملية المحولات
- الفصل الثامن: Partitioner السريع
- الفصل 9: مهمة التعليق التوضيحي
- الفصل 10: مهمة الترجمة
- الفصل 11: مهمة ملخص النص
- الفصل 12: سؤال وجواب مستخرج
- الفصل 13: حث تحليل المشاعر
الجزء 4: عصر نموذج اللغة الكبيرة
- الفصل 14: مقدمة في تكنولوجيا نموذج اللغة الكبيرة
- الفصل 15: نموذج اللغة الكبيرة قبل التدريب
- الفصل 16: استخدام نموذج اللغة الكبيرة
- الفصل السابع عشر: تعليمات نفق نفق Flant5
- الفصل 18: تعليمات صقل لاما 2 نموذج
نموذج الرمز
- pairwise_cls_similarity_afqmc: مهام تصنيف زوج الجملة ، حكم المرادفات المالية.
- sequence_labeling_ner_cpd: مهمة وضع تسمية ، اسم التعرف على الكيان.
- SEQ2SEQ_TRANSLATION: مهمة SEQ2SEQ ، الترجمة الصينية-الإنجليزية.
- SEQ2Seq_Summarization: مهمة SEQ2SEQ ، ملخص النص.
- sequence_labeling_extractriveqa_cmrc: مهمة وضع العلامات التسلسلية ، والسؤال والإجابة المستخرجة.
- text_cls_prompt_senti_chnsenticorp: مهمة تصنيف النص ، تحليل المشاعر المطالبة.
تحديثات مهمة
| تاريخ | محتوى |
|---|
| 2024-07-06 | تم تحسين التعبير النصي عن الفصل الأول من "معالجة اللغة الطبيعية" ، وتم إضافة بعض الصور ، وتم إضافة مقدمة لنموذج اللغة الكبير. |
| 2024-07-27 | أكمل المسودة الأولية لمقدمة التكنولوجيا لنموذج اللغة الكبيرة (الفصول من 14 إلى 16) |
