AnimateDiff_Serverless_Runpod

Animediff_serverless_runpod

1. Pendahuluan

Ini adalah aplikasi tanpa server yang menggunakan Animatediff untuk menjalankan tugas teks-ke-video di Runpod.

Lihat juga sdxl_serverless_runpod untuk tugas teks-ke-imgae .

Serverless berarti Anda hanya dikenakan biaya untuk waktu Anda menggunakan aplikasi, dan Anda tidak perlu membayar waktu idle, yang sangat cocok untuk aplikasi semacam ini yang tidak sering digunakan tetapi perlu merespons dengan cepat.

Secara teoritis, aplikasi ini dapat dipanggil oleh aplikasi lain. Di sini kami memberikan dua contoh:

1. Skrip Python sederhana
2. Bot telegram

Lihat Penggunaan di bawah ini untuk detail lebih lanjut.

Hasil contoh:

Input Prompt: (Seed acak: 445608568)

 1girl, focus on face, offshoulder, light smile, shiny skin, best quality, masterpiece, photorealistic

Hasil: (Asli | Panleft, 28 Langkah, 768x512, sekitar 60 detik pada RTX 3090, 0,015 $? Di Runpod)

example_result_person_445608568.mp4

Prompt Input: (Seed acak: 195577361)

 photo of coastline, rocks, storm weather, wind, waves, lightning, 8k uhd, dslr, soft lighting, high quality, film grain, Fujifilm XT3

Hasil: (Asli | Zoomout, 28 Langkah, 768x512, sekitar 60 detik pada RTX 3090, 0,015 $? Di Runpod)

example_result_scene_195577361.mp4

Penjelasan Pengukuran Waktu:

Waktu diukur sejak saat prompt input dikirim ke saat gambar hasilnya diterima, termasuk waktu untuk semua langkah berikut:

• Menerima permintaan dari klien
• Startup kontainer tanpa server
• Pemuatan model
• Kesimpulan
• Mengirimkan gambar hasil kembali ke klien.

2. Ketergantungan

• Python> = 3.9
• Buruh pelabuhan
• GPU lokal diperlukan untuk pengujian tetapi tidak perlu untuk penyebaran. (Direkomendasikan: RTX 3090)

Jika Anda tidak memiliki GPU, Anda dapat memodifikasi dan menguji kode di Google Colab dan kemudian membangun dan menggunakan aplikasi di Runpod.

Contoh notebook: tautan

3. Penggunaan

1. Tes pada mesin lokal

 # Install dependencies
pip install -r requirements.txt

# Download models
python scripts/download.py

# Edit (or not) config to customize your inference, e.g., change base model, lora model, motion lora model, etc.
rename inference_v2(example).yaml to inference_v2.yaml

# Run inference test
python inference_util.py

# Run server.py local test
python server.py

Selama mengunduh, jika Anda menemukan kesalahan seperti "gdown.exceptions.fileurlretrievalError: tidak dapat mengambil tautan publik dari file tersebut.", Menginstal ulang paket GDOWN menggunakan "Pip Install--upgrade ---no-Cache-Dir gdown" dan mengulangi unduhan. May mungkin membantu.

2. Menyebarkan Runpod

1. Pertama, pastikan Anda telah menginstal Docker dan memiliki akun di Dockerhub dan Runpod.

2. Kemudian, tentukan nama untuk gambar Docker Anda, misalnya, "your_username/anidiff: v1" dan atur nama gambar Anda di "./scripts/build.sh".

3. Jalankan perintah berikut untuk membangun dan mendorong gambar Docker Anda ke Dockerhub.

Bash Scripts/build.sh

4. Terakhir, sebarkan aplikasi Anda di Runpod untuk membuat templat dan titik akhir.

Maaf karena tidak memberikan instruksi terperinci di sini karena penulisnya cukup sibuk baru -baru ini. Anda dapat menemukan banyak instruksi terperinci di Google tentang cara menggunakan gambar Docker di Runpod.

Jangan ragu untuk menghubungi saya jika Anda mengalami masalah setelah mencari di Google.

3. Hubungi aplikasi

Panggil dari skrip Python

 # Make sure to set API key and endpoint ID before running the script.
python test_client.py

Showcase: Panggilan dari Bot Telegram

4. TODO

• Dukungan untuk model dasar tertentu untuk tujuan yang berbeda. (Orang dan adegan)
• Dukungan untuk model LORA. (Edit file yaml dan tempatkan model Anda di "./models/drexbooth_lora")
• Dukungan untuk Model Lora Motion. (Juga dapat diedit dalam file YAML, lihat di sini untuk detail dan unduhan.)
• Instruksi yang lebih rinci
• One-Click Deploy (jika ada yang tertarik ...)

4. Pengakuan

Terima kasih kepada Animatediff dan Runpod.