AnimateDiff_Serverless_Runpod

Animatediff_serverless_runpod

1. Введение

Это приложение без сервера, которое использует Animatediff для запуска задачи текста к Video на Runpod.

См. Также SDXL_SERVERSLESS_RUNPOD для задачи текста-имми .

Без сервера означает, что вас взимают плату только за то время, когда вы используете приложение, и вам не нужно платить за время простоя, что очень подходит для такого рода приложения, которое не используется часто, но необходимо быстро реагировать.

Теоретически, это приложение может быть вызвано любым другим приложением. Здесь мы приводим два примера:

1. Простой сценарий питона
2. Телеграмма бот

Смотрите использование ниже для более подробной информации.

Пример результата:

Подсказка ввода: (случайное семя: 445608568)

 1girl, focus on face, offshoulder, light smile, shiny skin, best quality, masterpiece, photorealistic

Результат: (оригинал | Panleft, 28 шагов, 768x512, около 60 секунд на RTX 3090, 0,015 $? На Runpod)

example_result_person_445608568.mp4

Подсказка ввода: (случайное семя: 195577361)

 photo of coastline, rocks, storm weather, wind, waves, lightning, 8k uhd, dslr, soft lighting, high quality, film grain, Fujifilm XT3

Результат: (оригинал | Zoomout, 28 шагов, 768x512, около 60 секунд на RTX 3090, 0,015 $? На Runpod)

example_result_scene_195577361.mp4

Объяснение измерения времени:

Время измеряется с момента, когда подсказка ввода отправляется в момент получения изображения результата, включая время для всех следующих шагов:

• Получить запрос от клиента
• Серверный запуск контейнеров
• Загрузка модели
• Вывод
• Отправка изображения результата обратно клиенту.

2. Зависимости

• Python> = 3,9
• Докер
• Местный графический процессор необходим для тестирования, но не необходимо для развертывания. (Рекомендуется: RTX 3090)

Если у вас нет графического процессора, вы можете изменить и проверить код в Google Colab, а затем создать и развернуть приложение на RunPod.

Пример ноутбука: ссылка

3. Использование

1. Проверка на локальной машине

 # Install dependencies
pip install -r requirements.txt

# Download models
python scripts/download.py

# Edit (or not) config to customize your inference, e.g., change base model, lora model, motion lora model, etc.
rename inference_v2(example).yaml to inference_v2.yaml

# Run inference test
python inference_util.py

# Run server.py local test
python server.py

Во время загрузки, если вы сталкиваетесь с ошибками, такими как "gdown.exceptions.fileurlretrievalerror: не может получить публичную ссылку файла", переосмысление пакета gdown с помощью "Pip install-up-rerge-no-cache-dir gdow

2. Развертывание на Runpod

1. Во -первых, убедитесь, что вы установили Docker и у вас есть учетные записи на Dockerhub и Runpod.

2. Затем определите имя для вашего изображения Docker, например, «your_username/anidiff: v1» и установите имя вашего изображения в »./scripts/build.sh».

3. Запустите следующие команды, чтобы построить и нажмите изображение Docker до Dockerhub.

Bash Scripts/Build.sh

4. Наконец, разверните свое приложение на Runpod для создания шаблона и конечной точки.

Извините за то, что не предоставлял подробные инструкции здесь, так как автор недавно довольно занят. Вы можете найти много подробных инструкций в Google о том, как развернуть изображение Docker на Runpod.

Не стесняйтесь обращаться ко мне, если вы столкнетесь с какими -либо проблемами после поиска в Google.

3. Позвоните в приложение

Звонить из сценария Python

 # Make sure to set API key and endpoint ID before running the script.
python test_client.py

Витрина: звонок из бота Telegram

4. Тодо

• Поддержка конкретной базовой модели для различных целей. (Человек и сцена)
• Поддержка моделей LORA. (Редактировать файл yaml и поместите свою модель в "./models/dreambooth_lora")
• Поддержка моделей Motion Lora. (Также редактируется в файле YAML, см. Здесь для деталей и загрузки.)
• Более подробные инструкции
• Развертывание одного клика (если кто-то интересует ...)

4. подтверждение

Спасибо Animatediff и Runpod.