AnimateDiff_Serverless_Runpod

Animatediff_serverless_runpod

1. Einführung

Dies ist eine serverlose Anwendung, bei der animatediff eine Text-zu-Video- Aufgabe auf Runpod ausführt.

Siehe auch sdxl_serverless_runpod für Text-zu-Imgae -Aufgabe.

Serverless bedeutet, dass Sie nur für die Zeit, in der Sie die Anwendung verwenden, berechnet werden und Sie nicht für die Leerlaufzeit bezahlen müssen, was für diese Art von Anwendung, die nicht häufig verwendet wird, aber schnell reagieren muss, sehr geeignet ist.

Theoretisch kann diese Anwendung von jeder anderen Anwendung aufgerufen werden. Hier geben wir zwei Beispiele an:

1. Ein einfaches Python -Skript
2. Ein Telegrammbot

Weitere Informationen finden Sie in der Verwendung unten.

Beispielergebnis:

Eingabeaufforderung: (Zufallssamen: 445608568)

 1girl, focus on face, offshoulder, light smile, shiny skin, best quality, masterpiece, photorealistic

Ergebnis: (Original | Panleft, 28 Stufen, 768x512, ca. 60 Sekunden auf RTX 3090, 0,015 $? Auf Runpod)

Beispiel_Result_person_445608568.mp4

Eingabeaufforderung: (Zufallssamen: 195577361)

 photo of coastline, rocks, storm weather, wind, waves, lightning, 8k uhd, dslr, soft lighting, high quality, film grain, Fujifilm XT3

Ergebnis: (Original | Zoomout, 28 Schritte, 768x512, ca. 60 Sekunden auf RTX 3090, 0,015 $? Auf Runpod)

Beispiel_Result_scene_195577361.mp4

Zeitmessung Erläuterung:

Die Zeit wird ab dem Moment gemessen, in dem die Eingabeaufforderung an den Moment gesendet wird, in dem das Ergebnisbild empfangen wird, einschließlich der Zeit für alle folgenden Schritte:

• Erhalten Sie die Anfrage vom Kunden
• Serverloser Container -Start
• Modellbelastung
• Schlussfolgerung
• Senden des Ergebnisbildes an den Client zurück.

2. Abhängigkeiten

• Python> = 3,9
• Docker
• Für das Testen ist eine lokale GPU erforderlich, aber nicht für die Bereitstellung erforderlich. (Empfohlen: RTX 3090)

Wenn Sie keine GPU haben, können Sie den Code in Google Colab ändern und testen und dann die Anwendung auf RunPod erstellen und bereitstellen.

Beispiel Notebook: Link

3. Nutzung

1. Test auf der lokalen Maschine

 # Install dependencies
pip install -r requirements.txt

# Download models
python scripts/download.py

# Edit (or not) config to customize your inference, e.g., change base model, lora model, motion lora model, etc.
rename inference_v2(example).yaml to inference_v2.yaml

# Run inference test
python inference_util.py

# Run server.py local test
python server.py

Wenn Sie beim Herunterladen Fehler wie "gdown.exceptions.FileurlRetrievalError: den öffentlichen Link der Datei nicht abrufen" begegnen, installieren Sie das GDown-Paket mit "PIP Install--Upgrade-NO-Cache-Dir-Gown" und können Sie den Download.Py möglicherweise unterstützen.

2. Bereitstellen auf Runpod

1. Stellen Sie zunächst sicher, dass Sie Docker installiert haben und Konten auf DockerHub und Runpod haben.

2. Entscheiden Sie dann einen Namen für Ihr Docker -Image, z. B. "Your_username/Anidiff: v1" und setzen Sie Ihren Bildnamen in "./Scripts/build.sh".

3. Führen Sie die folgenden Befehle aus, um Ihr Docker -Image auf DockerHub zu erstellen und weiterzugeben.

Bash -Skripte/Build.sh

4. Stellen Sie schließlich Ihre Anwendung in RunPod bereit, um Vorlage und Endpunkt zu erstellen.

Tut mir leid, dass ich hier keine detaillierten Anweisungen zur Verfügung gestellt habe, da der Autor in letzter Zeit ziemlich beschäftigt ist. In Google finden Sie viele detaillierte Anweisungen zum Bereitstellen eines Docker -Images auf Runpod.

Sie können mich gerne kontaktieren, wenn Sie nach der Suche bei Google auf Probleme stoßen.

3. Rufen Sie die Bewerbung an

Rufen Sie von einem Python -Skript an

 # Make sure to set API key and endpoint ID before running the script.
python test_client.py

Showcase: Rufen Sie von einem Telegrammbot an

4. TODO

• Unterstützung des spezifischen Basismodells für verschiedene Ziele. (Person und Szene)
• Unterstützung für Lora -Modelle. (Bearbeiten Sie die YAML -Datei und platzieren Sie Ihr Modell in "./models/dreambooth_lora"))
• Unterstützung für Motion Lora -Modelle. (Auch in der YAML -Datei bearbeitbar, finden Sie hier Details und Downloads.)
• Detailliertere Anweisungen
• Ein-Klick-Bereitstellung (wenn jemand interessiert ist ...)

4. Anerkennung

Vielen Dank an Animatediff und Runpod.