mean opinion score

средний балл

Библиотека Python для расчета среднего балла мнений (MOS) и 95% доверительного интервала (CI) стандартного отклонения (SD) рейтингов текста в речь (TTS) в соответствии с «Ribeiro, F., Florêncio, D., Zhang, C. & Seltzer, M. (2011). Crowdmos: подход к среднему мнению, подход к среднему мнению, подход к среднему мнению, и Seltzer, M. (2011). Чтобы определить CIS, авторы использовали двустороннюю модель случайных эффектов с переменными: разнообразие качества внутреннего предложения, разнообразие предпочтения оценки и субъективная неопределенность.

Установка

pip install mean-opinion-score --user

Использование

 import numpy as np

from mean_opinion_score import get_ci95 , get_ci95_default , get_mos

_ = np . nan

ratings = np . array ([
    # columns represent sentences
    [ 4 , 5 , _ , 4 , _ , 3 ],  # rater 1
    [ 4 , 4 , 4 , 5 , _ , 4 ],  # rater 2
    [ _ , 3 , 5 , 4 , _ , 1 ],  # rater 3
    [ _ , _ , _ , _ , _ , _ ],  # rater 4
])

mos = get_mos ( ratings )
ci = get_ci95 ( ratings )
ci_default = get_ci95_default ( ratings )

print ( f"MOS: { mos :.2f } ± { ci :.4f } " )
print ( f"MOS: { mos :.2f } ± { ci_default :.4f } " )
# MOS: 3.85 ± 1.3316
# MOS: 3.85 ± 0.5579 

Зависимости

• numpy
• scipy

Внося

Если вы заметили ошибку, пожалуйста, не стесняйтесь открыть проблему.

Настройка разработки

 # update
sudo apt update
# install Python 3.6, 3.7, 3.8, 3.9, 3.10 & 3.11 for ensuring that tests can be run
sudo apt install python3-pip 
  python3.6 python3.6-dev python3.6-distutils python3.6-venv 
  python3.7 python3.7-dev python3.7-distutils python3.7-venv 
  python3.8 python3.8-dev python3.8-distutils python3.8-venv 
  python3.9 python3.9-dev python3.9-distutils python3.9-venv 
  python3.10 python3.10-dev python3.10-distutils python3.10-venv 
  python3.11 python3.11-dev python3.11-distutils python3.11-venv
# install pipenv for creation of virtual environments
python3.11 -m pip install pipenv --user

# check out repo
git clone https://github.com/stefantaubert/mean-opinion-score.git
cd mean-opinion-score
# create virtual environment
python3.11 -m pipenv install --dev

Запуск тестов

 # first install the tool like in "Development setup"
# then, navigate into the directory of the repo (if not already done)
cd mean-opinion-score
# activate environment
python3.11 -m pipenv shell
# run tests
tox

Окончательные строки результата тестирования

  py36: OK
  py37: OK
  py38: OK
  py39: OK
  py310: OK
  py311: OK
  congratulations :)

Лицензия

MIT Лицензия

Благодарности

Расчет MOS и CI взят из:

• Ribeiro, F., Florêncio, D., Zhang, C. & Seltzer, M. (2011). Crowdmos: подход к краудсорсингу среднего значения мнения. Международная конференция IEEE 2011 года по акустике, речевой и сигнальной обработке (ICASSP), 2416–2419. https://doi.org/10.1109/icassp.2011.5946971

Финансируется Deutsche Forschungsgemeinschaft (DFG, немецкий исследовательский фонд)-Project-ID 416228727-CRC 1410.

Цитирование

Если вы хотите процитировать этот репо, вы можете использовать этот Bibtex-Entry, сгенерированный GitHub (см. Об этом => цитируйте этот репозиторий ).

Taubert, S. (2023). mean-opinion-score (Version 0.0.2) [Computer software]. https://doi.org/10.5281/zenodo.8238259

Изменение

• v0.0.2 (2023-08-11)
  • Добавлен:
    • Обычно используется 95% расчет доверительного интервала.
• v0.0.1 (2023-02-23)
  • Первоначальный выпуск