TextGenerationEvaluationMetrics

قياس التنوع والجودة في نماذج توليد النص

هذا هو تنفيذ مقاييس لقياس التنوع والجودة ، والتي يتم تقديمها في هذه الورقة. الى جانب ذلك ، توجد بعض المقاييس الأخرى.

بالنسبة لـ Bleu و Selfbleu ، يتم استخدام هذا التنفيذ المفرط.

استخدام العينة

مسافات متعددة

فيما يلي مثال لحساب مسافة MS-Jaccard. إدخال هذه المقاييس هي قائمة من الجمل المميزة.

 from multiset_distances import MultisetDistances

ref1 = [ 'It' , 'is' , 'a' , 'guide' , 'to' , 'action' , 'that' , 'ensures' , 'that' , 'the' , 'military' , 'will' , 'forever' , 'heed' , 'Party' , 'commands' ]
ref2 = [ 'It' , 'is' , 'the' , 'guiding' , 'principle' , 'which' , 'guarantees' , 'the' , 'military' , 'forces' , 'always' , 'being' , 'under' , 'the' , 'command' , 'of' , 'the' , 'Party' ]
ref3 = [ 'It' , 'is' , 'the' , 'practical' , 'guide' , 'for' , 'the' , 'army' , 'always' , 'to' , 'heed' , 'the' , 'directions' , 'of' , 'the' , 'party' ]
sen1 = [ 'It' , 'is' , 'a' , 'guide' , 'to' , 'action' , 'which' , 'ensures' , 'that' , 'the' , 'military' , 'always' , 'obeys' , 'the' , 'commands' , 'of' , 'the' , 'party' ]
sen2 = [ 'he' , 'read' , 'the' , 'book' , 'because' , 'he' , 'was' , 'interested' , 'in' , 'world' , 'history' ]

references = [ ref1 , ref2 , ref3 ]
sentences = [ sen1 , sen2 ]

msd = MultisetDistances ( references = references )
msj_distance = msd . get_jaccard_score ( sentences = sentences )

قيمة msj_distance هي {3: 0.17, 4: 0.13, 5: 0.09} ، والتي تُظهر MS-Jaccard لـ 3-Gram و 4-Garm و 5-Gram ، على التوالي.

مسافات قائمة على بيرت

فيما يلي مثال لحساب مسافة FBD و EMBD. إن إدخال هذه المقاييس عبارة عن قائمة بالسلاسل ، ويتم استخدام Bert Tokenizer في الكود.

 from bert_distances import FBD , EMBD
references = [ "that is very good" , "it is great" ]
sentences1 = [ "this is nice" , "that is good" ]
sentences2 = [ "it is bad" , "this is very bad" ]

fbd = FBD ( references = references , model_name = "bert-base-uncased" , bert_model_dir = "/tmp/Bert/" )
fbd_distance_sentences1 = fbd . get_score ( sentences = sentences1 )
fbd_distance_sentences2 = fbd . get_score ( sentences = sentences2 )
# fbd_distance_sentences1 = 17.8, fbd_distance_sentences2 = 22.0

embd = EMBD ( references = references , model_name = "bert-base-uncased" , bert_model_dir = "/tmp/Bert/" )
embd_distance_sentences1 = embd . get_score ( sentences = sentences1 )
embd_distance_sentences2 = embd . get_score ( sentences = sentences2 )
# embd_distance_sentences1 = 10.9, embd_distance_sentences2 = 20.4

موارد

• ورق
• ملصق
• فيديو العرض
• شريحة

اقتباس

يرجى الاستشهاد بالورقة إذا كانت تساعد في بحثك.

@misc{montahaei2019jointly,
    title={Jointly Measuring Diversity and Quality in Text Generation Models},
    author={Ehsan Montahaei and Danial Alihosseini and Mahdieh Soleymani Baghshah},
    year={2019},
    eprint={1904.03971},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}