QuBERT

Qubert

Calloberta เป็นรูปแบบภาษาที่ใช้ Roberta สำหรับ Quechua รูปแบบภาษาของเราถูกสอบถามล่วงหน้าด้วยข้อความจาก Quechua Southern (Collao และ Chanka)

เกี่ยวกับโมเดล

โมดูล	ปล่อยออกมา
คอลเบอร์ตา	config.json, pytorch_model.bin
โทเค็น	merges.txt, vocab.json

โมเดลใช้ Tokenizer BPE ระดับไบต์กับคำศัพท์โทเค็นย่อย 52000

การใช้งานได้

เมื่อน้ำหนักและ tokenizer ในส่วนด้านบนถูกปล่อยออกมาจำเป็นต้องแนบมันในโฟลเดอร์เดียวในกรณีนี้มัน LlamaRoBERTa

 from transformers import pipeline

fill_mask = pipeline (
    "fill-mask" ,
    model = "./LlamaRoBERTa" ,
    tokenizer = "./LlamaRoBERTa"
)

การทดสอบเสร็จสิ้นซึ่งอยู่ในขั้นตอนของการปรับปรุง

 fill_mask ( "allinllachu <mask> allinlla huk wasipita." )

 [{'score': 0.23992203176021576,
 'sequence': 'allinllachu nisqaqa allinlla huk wasipita.',
 'token': 334,
 'token_str': ' nisqaqa'},
{'score': 0.061005301773548126,
 'sequence': 'allinllachu, allinlla huk wasipita.',
 'token': 16,
 'token_str': ','},
 {'score': 0.028720015659928322,
 'sequence': "allinllachu' allinlla huk wasipita.",
 'token': 11,
 'token_str': "'"},
{'score': 0.012927944771945477,
'sequence': 'allinllachu kay allinlla huk wasipita.',
'token': 377,
'token_str': ' kay'},
{'score': 0.01230092253535986,
'sequence': 'allinllachu. allinlla huk wasipita.',
 'token': 18,
'token_str': '.'}]