Library Python สำหรับการคำนวณคะแนนความคิดเห็นเฉลี่ย (MOS) และช่วงความเชื่อมั่น 95% (CI) ของการเบี่ยงเบนมาตรฐาน (SD) ของการจัดอันดับแบบข้อความเป็นคำพูด (TTS) ตาม "Ribeiro, F. , Florêncio, D. , Zhang, C. , & Seltzer, M. (2011) ในการตรวจสอบ CIS ผู้เขียนใช้แบบจำลองเอฟเฟกต์แบบสุ่มแบบสองทางพร้อมตัวแปร: ความหลากหลายของคุณภาพประโยคที่แท้จริงความหลากหลายของการตั้งค่าของผู้ประเมินและความไม่แน่นอนส่วนตัว
pip install mean-opinion-score --user import numpy as np
from mean_opinion_score import get_ci95 , get_ci95_default , get_mos
_ = np . nan
ratings = np . array ([
# columns represent sentences
[ 4 , 5 , _ , 4 , _ , 3 ], # rater 1
[ 4 , 4 , 4 , 5 , _ , 4 ], # rater 2
[ _ , 3 , 5 , 4 , _ , 1 ], # rater 3
[ _ , _ , _ , _ , _ , _ ], # rater 4
])
mos = get_mos ( ratings )
ci = get_ci95 ( ratings )
ci_default = get_ci95_default ( ratings )
print ( f"MOS: { mos :.2f } ± { ci :.4f } " )
print ( f"MOS: { mos :.2f } ± { ci_default :.4f } " )
# MOS: 3.85 ± 1.3316
# MOS: 3.85 ± 0.5579 numpyscipy หากคุณสังเกตเห็นข้อผิดพลาดโปรดอย่าลังเลที่จะเปิดปัญหา
# update
sudo apt update
# install Python 3.6, 3.7, 3.8, 3.9, 3.10 & 3.11 for ensuring that tests can be run
sudo apt install python3-pip
python3.6 python3.6-dev python3.6-distutils python3.6-venv
python3.7 python3.7-dev python3.7-distutils python3.7-venv
python3.8 python3.8-dev python3.8-distutils python3.8-venv
python3.9 python3.9-dev python3.9-distutils python3.9-venv
python3.10 python3.10-dev python3.10-distutils python3.10-venv
python3.11 python3.11-dev python3.11-distutils python3.11-venv
# install pipenv for creation of virtual environments
python3.11 -m pip install pipenv --user
# check out repo
git clone https://github.com/stefantaubert/mean-opinion-score.git
cd mean-opinion-score
# create virtual environment
python3.11 -m pipenv install --dev # first install the tool like in "Development setup"
# then, navigate into the directory of the repo (if not already done)
cd mean-opinion-score
# activate environment
python3.11 -m pipenv shell
# run tests
toxบรรทัดสุดท้ายของผลการทดสอบผลการออก:
py36: OK
py37: OK
py38: OK
py39: OK
py310: OK
py311: OK
congratulations :)
ใบอนุญาต MIT
การคำนวณ MOS และ CI นั้นมาจาก:
ได้รับทุนจาก Deutsche Forschungsgemeinschaft (DFG, มูลนิธิวิจัยเยอรมัน)-โครงการ -ID 416228727-CRC 1410
หากคุณต้องการอ้างอิง repo นี้คุณสามารถใช้ bibtex-entry นี้ที่สร้างโดย gitHub (ดู เกี่ยวกับ => อ้างอิงที่เก็บนี้ )
Taubert, S. (2023). mean-opinion-score (Version 0.0.2) [Computer software]. https://doi.org/10.5281/zenodo.8238259