AnimateDiff_Serverless_Runpod

animateiff_serverless_runpod

1. 소개

이것은 Animateff를 사용하여 Runpod에서 텍스트-비디오 작업을 실행하는 서버리스 응용 프로그램입니다.

Text-to-Imgae 작업은 sdxl_serverless_runpod를 참조하십시오.

서버리스는 응용 프로그램을 사용하는 시간에 대해서만 청구되며 유휴 시간에 대해 지불 할 필요가 없으며, 이는 자주 사용되지 않지만 빠르게 응답 해야하는 이러한 종류의 애플리케이션에 매우 적합합니다.

이론적 으로이 응용 프로그램은 다른 응용 프로그램에서 호출 할 수 있습니다. 여기서 우리는 두 가지 예를 제공합니다.

1. 간단한 파이썬 스크립트
2. 전보 봇

자세한 내용은 아래 사용법을 참조하십시오.

예 : 결과 :

입력 프롬프트 : (무작위 종자 : 445608568)

 1girl, focus on face, offshoulder, light smile, shiny skin, best quality, masterpiece, photorealistic

결과 : (원본 | Panleft, 28 단계, 768x512, RTX 3090에서 약 60 초, Runpod에서 0.015 $?

example_result_person_445608568.mp4

입력 프롬프트 : (무작위 종자 : 195577361)

 photo of coastline, rocks, storm weather, wind, waves, lightning, 8k uhd, dslr, soft lighting, high quality, film grain, Fujifilm XT3

결과 : (원본 | Zoomout, 28 단계, 768x512, RTX 3090에서 약 60 초, runpod에서 0.015 $?

example_result_scene_195577361.mp4

시간 측정 설명 :

시간은 입력 프롬프트가 다음의 모든 단계에 대한 시간을 포함하여 결과 이미지가 수신되는 순간에 전송되는 순간부터 측정됩니다.

• 클라이언트로부터 요청을받습니다
• 서버리스 컨테이너 시작
• 모델 로딩
• 추론
• 결과 이미지를 클라이언트로 돌려 보냅니다.

2. 종속성

• 파이썬> = 3.9
• 도커
• 테스트에는 로컬 GPU가 필요하지만 배포에는 필요하지 않습니다. (권장 : RTX 3090)

GPU가없는 경우 Google Colab에서 코드를 수정하고 테스트 한 다음 runpod에 응용 프로그램을 빌드하고 배포 할 수 있습니다.

예제 노트 : 링크

3. 사용법

1. 로컬 머신에서 테스트하십시오

 # Install dependencies
pip install -r requirements.txt

# Download models
python scripts/download.py

# Edit (or not) config to customize your inference, e.g., change base model, lora model, motion lora model, etc.
rename inference_v2(example).yaml to inference_v2.yaml

# Run inference test
python inference_util.py

# Run server.py local test
python server.py

다운로드하는 동안 "gdown.exceptions.fileurlretrievalerror : 파일의 공개 링크를 검색 할 수 없습니다."와 같은 오류가 발생하면 "PIP 설치-업그레이드-NO-CACHE-DIR GDOIN"을 사용하여 GDOIN 패키지를 설치하고 다운로드를 다시 주행 할 수 있습니다.

2. runpod에 배포

1. 먼저 Docker를 설치하고 DockerHub 및 RunPod에 계정을 가지고 있는지 확인하십시오.

2. 그런 다음 Docker 이미지의 이름을 결정하고 "Your_username/anidiff : v1"을 결정하고 이미지 이름을 "./scripts/build.sh"에 설정하십시오.

3. 다음 명령을 실행하여 Docker 이미지를 빌드하고 DockerHub로 푸시하십시오.

bash 스크립트/build.sh

4. 마지막으로 runpod에 응용 프로그램을 배포하여 템플릿 및 엔드 포인트를 만듭니다.

저자가 최근에 바쁘기 때문에 여기에 자세한 지침을 제공하지 않아서 죄송합니다. runpod에 docker 이미지를 배포하는 방법에 대한 Google에서 많은 자세한 지침을 찾을 수 있습니다.

Google에서 검색 한 후 문제가 발생하면 저에게 연락하십시오.

3. 신청서에 전화하십시오

파이썬 스크립트에서 전화하십시오

 # Make sure to set API key and endpoint ID before running the script.
python test_client.py

쇼케이스 : Telegram 봇에서 전화하십시오

4. 할머니

• 다른 목표에 대한 특정 기본 모델 지원. (사람과 장면)
• LORA 모델 지원. (YAML 파일을 편집하고 모델을 "./models/dreambooth_lora"에 배치하십시오.
• 모션 로라 모델 지원. (YAML 파일로 편집 가능하고 자세한 내용과 다운로드는 여기를 참조하십시오.)
• 보다 자세한 지침
• 한 번의 클릭 배포 (누구나 관심이있는 경우 ...)

4. 인정

애니메이터와 runpod에게 감사드립니다.