QuBERT
QuBERT - BPE_guide - Normalized Data
CalloBerta هو نموذج لغة قائم على روبرتا لكيشوا. كان نموذج لغتنا مسبقًا مع نص من Quechua Southern (Collao و Chanka).
| الوحدة النمطية | تسريح |
|---|---|
| كالبيرتا | config.json ، pytorch_model.bin |
| رمز | Merges.txt ، vocab.json |
يستخدم النموذج رمز BPE على مستوى البايت مع المفردات المميزة لـ 52000 subpalabras.
بمجرد تفريغ الأوزان والرمز المميز في القسم أعلاه ، من الضروري إرفاقه في مجلد واحد ، في هذه الحالة كان من LlamaRoBERTa به.
from transformers import pipeline
fill_mask = pipeline (
"fill-mask" ,
model = "./LlamaRoBERTa" ,
tokenizer = "./LlamaRoBERTa"
)يتم الاختبار ، وهو على مراحل من التحسينات.
fill_mask ( "allinllachu <mask> allinlla huk wasipita." ) [{'score': 0.23992203176021576,
'sequence': 'allinllachu nisqaqa allinlla huk wasipita.',
'token': 334,
'token_str': ' nisqaqa'},
{'score': 0.061005301773548126,
'sequence': 'allinllachu, allinlla huk wasipita.',
'token': 16,
'token_str': ','},
{'score': 0.028720015659928322,
'sequence': "allinllachu' allinlla huk wasipita.",
'token': 11,
'token_str': "'"},
{'score': 0.012927944771945477,
'sequence': 'allinllachu kay allinlla huk wasipita.',
'token': 377,
'token_str': ' kay'},
{'score': 0.01230092253535986,
'sequence': 'allinllachu. allinlla huk wasipita.',
'token': 18,
'token_str': '.'}]