AnimateDiff_Serverless_Runpod

animatediff_serverless_runpod

1。はじめに

これは、Animatediffを使用してRunpodでテキスト間タスクを実行するサーバーレスアプリケーションです。

テキスト間タスクについては、sdxl_serverless_runpodも参照してください。

サーバーレスとは​​、アプリケーションを使用する時間のみ請求され、アイドル時間を支払う必要はないことを意味します。

理論的には、このアプリケーションは他のアプリケーションで呼び出すことができます。ここでは、2つの例を示します。

1. シンプルなPythonスクリプト
2. 電報ボット

詳細については、以下の使用法を参照してください。

例の例：

入力プロンプト：（ランダムシード：445608568）

 1girl, focus on face, offshoulder, light smile, shiny skin, best quality, masterpiece, photorealistic

結果：（オリジナル| Panleft、28ステップ、768x512、RTX 3090で約60秒、Runpodで0.015 $？）

example_result_person_445608568.mp4

入力プロンプト：（ランダムシード：195577361）

 photo of coastline, rocks, storm weather, wind, waves, lightning, 8k uhd, dslr, soft lighting, high quality, film grain, Fujifilm XT3

結果：（オリジナル|ズームアウト、28ステップ、768x512、RTX 3090で約60秒、runpodで0.015 $？）

example_result_scene_1957361.mp4

時間測定の説明：

時間は、次のすべての手順の時間を含め、結果画像が受信された瞬間に入力プロンプトが送信された瞬間から測定されます。

• クライアントからリクエストを受け取ります
• サーバーレスコンテナの起動
• モデルの読み込み
• 推論
• 結果画像をクライアントに送り返します。

2。依存関係

• Python> = 3.9
• Docker
• ローカルGPUはテストに必要ですが、展開には必要ありません。 （推奨：RTX 3090）

GPUをお持ちでない場合は、Google Colabでコードを変更してテストし、Runpodにアプリケーションを構築および展開できます。

ノートブックの例：リンク

3。使用法

1.ローカルマシンでテストします

 # Install dependencies
pip install -r requirements.txt

# Download models
python scripts/download.py

# Edit (or not) config to customize your inference, e.g., change base model, lora model, motion lora model, etc.
rename inference_v2(example).yaml to inference_v2.yaml

# Run inference test
python inference_util.py

# Run server.py local test
python server.py

ダウンロード中に、「gdown.exceptions.fileurlretrievalerror：ファイルのパブリックリンクを取得できない」などのエラーが発生した場合、「pipインストール - アップグレード - ノーキャッシュディールGdow」を使用してgdownパッケージを再インストールし、ダウンロードを再実行することが役立ちます。

2。runpodに展開します

1. まず、Dockerをインストールし、DockerHubとRunpodの両方にアカウントがあることを確認してください。

2. 次に、docker画像の名前を決定します。

3. 次のコマンドを実行して、Dockerイメージを作成してDockerHubにプッシュします。

Bash Scripts/build.sh

4. 最後に、アプリケーションをRunpodに展開して、テンプレートとエンドポイントを作成します。

著者は最近かなり忙しいので、ここで詳細な指示を提供していないことを申し訳ありません。 RunpodにDocker画像を展開する方法について、Googleで多くの詳細な指示を見つけることができます。

Googleで検索した後に問題が発生した場合は、お気軽にご連絡ください。

3.アプリケーションを呼び出します

Pythonスクリプトから電話をかけます

 # Make sure to set API key and endpoint ID before running the script.
python test_client.py

ショーケース：電報ボットからの電話

4。トッド

• さまざまな目的のための特定のベースモデルのサポート。 （人とシーン）
• LORAモデルのサポート。 （yamlファイルを編集し、モデルを「./models/dreambooth_lora」に配置します）
• モーションロラモデルのサポート。 （YAMLファイルでも編集できます。詳細とダウンロードについてはこちらをご覧ください。）
• より詳細な指示
• ワンクリック展開（誰かが興味を持っている場合...）

4。謝辞

AnimatediffとRunpodに感謝します。