الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

ممارسة المهام ذات الصلة لتوليد الأسئلة

يحاول هذا المشروع إنشاء المهام ذات الصلة على أساس نماذج اللغة. يستخدم الإصدار الأول أسئلة على مستوى مليون لضبط نموذج T5 ، والرمز موجود في دليل ./T5_Tuning. يحاول الإصدار الثاني توليد النص على GPT-2. يعتمد هذا التحديث على chatglm-6b+lora ، قم بضبط الإصدار الأول من النموذج ، ويضيف نوعًا جديدًا من مهمة النصوص.

1 هذا التقدم

(1) تم تحديث الإصدار الأول من النموذج استنادًا إلى chatglm-6b+lora (2) بيانات propt التي تم إنشاؤها حديثًا ، ومهام التعلم الجديدة لـ ProPT (4) تم فرز مكتبة الاستعلام للوصول إلى 40 مليون ، وتنظيفها

2 تشمل مهام الضبط الدقيق

(1) الكلمة الرئيسية لتوليد الأسئلة (2) توليد الكلمات الرئيسية (3) مجموعة البيانات الخاصة بضبط أسئلة مماثلة في دليل ./Chatglm_tuning/data ، حوالي 100،000+ ؛

3 حالة التدريب

(1) على مجموعة بيانات proft_data ، تم تدريب 3 عصر ؛
(2) فقدان التدريب ، من 3.0 إلى حوالي 1.3 ؛ بعد حوالي 2epoch ، كان انخفاض الخسارة بطيئًا بشكل خاص ؛
(3) للاطلاع على إعدادات معلمة التدريب التفصيلية ، راجع الرمز ؛

4 آثار عملية

#Keyword Control Generation 

 prompt:帮我生成10条包含[流量,套餐]关键词的问句

answer:
1.移动流量包怎么取消流量套餐
2.手机流量套餐有哪些?价格如何查询呢
3.这个有什么的流量套餐吗?可以换卡了吗
4.有免费的流量套餐吗
5.有没有免费流量套餐推荐一下啊!求大神们解答
6.联通流量超出后需要购买什么流量套餐
7.现在哪个网络套餐送更多流量
8.流量多少合适 选哪种套餐好点
9.电信流量套餐好吗
10.移动流量多吗?买套餐怎么样划算呀!谢谢各位大大回答!!

#Queary Generation 

 prompt:[美国CPI为何暴涨]问句包含哪些关键词

answer:
包含的关键词有: 美国,CPI

#توليد أسئلة متماثل 

 prompt:帮我生成9条与[炒股软件哪个好用]相似的问句

answer:
1.请问有什么好的炒股工具可以推荐吗
2.想要在股市上获得成功,应该选择哪个炒股软件呢?请帮忙解答一下!
3.我想知道有哪些好用的炒股应用程序值得大家使用
4.股市新手应该如何选择适合自己的炒股软件呢
5.能否介绍一下哪些炒股软件适合股票投资者
6.我想学习更多有关股市的知识和技能,有没有好的炒股软件可以参考下的呢
7.现在有很多不同的炒股软件可供选择,不知道哪种最实用、最好用
8.对于刚刚入门的人来说,用什么炒股软件比较合适比较好
9.想请教各位高手们,哪些炒股软件是投资必备的好帮手啊!

5 تحليل النتائج

(1) انطلاقًا من تأثير التدريب لهذا الإصدار ، فإنه يشعر أن التدريب القائم على chatglm+lora غير كافٍ ، ودرجة ملائمة proft_data منخفضة نسبيًا. لست متأكدًا مما إذا كنت سأزيد الجولة أو ضبط معلمات Lora ؛
(2) عند القيام بمهمة إنشاء كلمات رئيسية للكلمات الرئيسية المستندة إلى الأسئلة ، لا يتم التعرف على العديد من الكلمات المهمة ، والتي ترتبط بجودة بيانات ProPT المنخفضة ؛

6 الخطة التالية

(1) استمر في تحسين نموذج ChatGlm+Lora ؛
(2) إضافة أو تحسين مهمة المطالبة ؛
(3) النظر في كيفية تطبيق مكتبة الاستعلام ، أو بناء قاعدة للمعرفة ، وجمع النموذج مع قاعدة المعرفة للقيام بمهام التوليد المتعلقة بالاستعلام.

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل