การดาวน์โหลด BentoDiffusion

BentoDiffusion

โค้ดแหล่งที่มา AI

1.0.0

ดาวน์โหลด

แบบจำลองการแพร่กระจายของตัวเองด้วย bentoml

พื้นที่เก็บข้อมูลนี้มีชุดของโครงการตัวอย่างเบนทิลแสดงให้เห็นถึงวิธีการปรับใช้โมเดลที่แตกต่างกันในตระกูลการแพร่กระจายที่เสถียร (SD) ซึ่งมีความเชี่ยวชาญในการสร้างและจัดการรูปภาพหรือคลิปวิดีโอตามข้อความแจ้ง

ดูที่นี่สำหรับรายการตัวอย่าง Bentoml ทั้งหมด

คู่มือต่อไปนี้ใช้ SDXL Turbo เป็นตัวอย่าง

ข้อกำหนดเบื้องต้น

หากคุณต้องการทดสอบบริการในเครื่องเราขอแนะนำให้คุณใช้ Nvidia GPU อย่างน้อย 12GB VRAM

ติดตั้งการพึ่งพา

git clone https://github.com/bentoml/BentoDiffusion.git
cd BentoDiffusion/sdxl-turbo

# Recommend Python 3.11
pip install -r requirements.txt

เรียกใช้บริการ Bentoml

เราได้กำหนดบริการ bentoml ใน service.py เรียกใช้ bentoml serve ในไดเรกทอรีโครงการของคุณเพื่อเริ่มบริการ

$ bentoml serve .

2024 - 01 - 18 T18 : 31 : 49 + 0800 [ INFO ] [ cli ] Starting production HTTP BentoServer from "service:SDXLTurboService" listening on http : // localhost : 3000 ( Press CTRL + C to quit )
Loading pipeline components ...: 100 %

เซิร์ฟเวอร์ตอนนี้เปิดใช้งานที่ http: // localhost: 3000 คุณสามารถโต้ตอบกับมันโดยใช้ UI Swagger หรือในวิธีอื่น ๆ

ขด

curl -X ' POST ' 
  ' http://localhost:3000/txt2img ' 
  -H ' accept: image/* ' 
  -H ' Content-Type: application/json ' 
  -d ' {
  "prompt": "A cinematic shot of a baby racoon wearing an intricate italian priest robe.",
  "num_inference_steps": 1,
  "guidance_scale": 0
} '

ไคลเอนต์ Python

 import bentoml

with bentoml . SyncHTTPClient ( "http://localhost:3000" ) as client :
        result = client . txt2img (
            prompt = "A cinematic shot of a baby racoon wearing an intricate italian priest robe." ,
            num_inference_steps = 1 ,
            guidance_scale = 0.0
        )