VitsServer
v
⚡ Vits Onnx Server, разработанный для быстрого вывода, поддержки потоковой передачи и дополнительных настроек вывода, чтобы включить настройки предпочтения модели и оптимизировать производительность.
Мы предлагаем системы вызовов.
client = VITS ( "http://127.0.0.1:9557" )
res = client . generate_voice ( model_id = "model_01" , text = "你好，世界！" , speaker_id = 0 , audio_type = "wav" ,
length_scale = 1.0 , noise_scale = 0.5 , noise_scale_w = 0.5 , auto_parse = True )
with open ( "output.wav" , "wb" ) as f :
for chunk in res . iter_content ( chunk_size = 1024 ):
if chunk :
f . write ( chunk ) Мы рекомендуем использовать виртуальную среду для изоляции среды выполнения. Поскольку зависимости этого проекта могут потенциально нарушить вашу библиотеку зависимостей, мы рекомендуем использовать pipenv для управления пакетом зависимостей.
Конфигурация находится в .env , включая следующие поля:
VITS_SERVER_HOST = 0.0.0.0
VITS_SERVER_PORT = 9557
VITS_SERVER_RELOAD = false
# VITS_SERVER_WORKERS=1
# VITS_SERVER_INIT_CONFIG="https://....json"
# VITS_SERVER_INIT_MODEL="https://.....pth or onnx"или вы можете использовать следующую команду для установки переменной среды:
export VITS_SERVER_HOST= " 0.0.0.0 "
export VITS_SERVER_PORT= " 9557 "
export VITS_SERVER_RELOAD= " false "
export VITS_DISABLE_GPU= " false "
VITS_SERVER_RELOAD означает сервер автоматического перезапуска при изменении файла.
apt-get update &&
apt-get install -y build-essential libsndfile1 vim gcc g++ cmake
apt install python3-pip
pip3 install pipenv
pipenv install # Create and install dependency packages
pipenv shell # Activate the virtual environment
python3 main.py # Run
# then ctrl+c exit apt install npm
npm install pm2 -g
pm2 start pm2.json
# then the server will run in the background
И у нас есть сценарий одного щелчка для установки pipenv и npm :
curl -LO https://raw.githubusercontent.com/LlmKira/VitsServer/main/deploy_script.sh && chmod +x deploy_script.sh && ./deploy_script.sh
У нас есть docker pull sudoskys/vits-server:main to Docker Hub.
Вы также можете построить из Dockerfile.
docker build -t < image-name > . где <image-name> это имя, которое вы хотите дать изображению. Затем используйте следующую команду, чтобы запустить контейнер:
docker run -d -p 9557:9557 -v < local-path > /vits_model:/app/model < image-name > где <local-path> -локальный путь папки, который вы хотите сопоставить в каталог /приложение /модель в контейнере.
В папке model поместите model.pth / model.onnx и соответствующие файлы model.json . Если это .pth , он будет автоматически преобразован в .onnx !
Вы можете использовать .env для установки VITS_SERVER_INIT_CONFIG и VITS_SERVER_INIT_MODEL для загрузки модельных файлов.
VITS_SERVER_INIT_CONFIG = " https://....json "
VITS_SERVER_INIT_MODEL = " https://.....pth?trace=233 or onnx?trace=233 " Структура model папок:
.
├── 1000_epochs.json
├── 1000_epochs.onnx
├── 1000_epochs.pth
├── 233_epochs.json
├── 233_epochs.onnx
└── 233_epochs.pth
Model ID составляет 1000_epochs и 233_epochs .
Когда вы размещаете файлы модели в папку model , вы должны перезагрузить сервер.
Вы можете добавить дополнительные поля в конфигурацию модели, чтобы получить информацию, такую как имя модели, соответствующее идентификатору модели, через API.
{
//...
"info" : {
"name" : "coco" ,
"description" : "a vits model" ,
"author" : "someone" ,
"cover" : "https://xxx.com/xxx.jpg" ,
"email" : "[email protected]"
} ,
"infer" : {
"noise_scale" : 0.667 ,
"length_scale" : 1.0 ,
"noise_scale_w" : 0.8
}
//....
} infer - настройки вывода по умолчанию (предпочтение) для модели.
info - это информация о модели.
Вы можете получить доступ {your_base_url}/model/list?show_speaker=True&show_ms_config=True чтобы получить подробную информацию о ролях и конфигурациях модели.
Мы хотели бы поблагодарить вклад следующих проектов в разработку этого проекта:
