inference audiocraft musicgen on amazon sagemaker ดาวน์โหลด - inference audiocraft musicgen on amazon sagemaker Source Source Download

inference audiocraft musicgen on amazon sagemaker

ซอร์สโค้ดอื่น ๆ

1.0.0

ดาวน์โหลด

การอนุมาน Audiocraft Musicgen บน Amazon Sagemaker

ปรับใช้ Audiocraft MusicGen บน Amazon Sagemaker โดยใช้จุดสิ้นสุดของ Sagemaker สำหรับการอนุมาน Async

บล็อก: การอนุมาน Audiocraft Musicgen โดยใช้ Amazon Sagemaker

โซลูชันนี้แสดงให้เห็นถึงการปรับใช้โมเดล Audiocraft MusicGen จาก HuggingFace ใน Amazon Sagemaker โมเดล MusicGen ใช้ข้อความภาษาธรรมชาติเป็นพรอมต์และสร้างเพลงเป็นเอาท์พุท

MusicGen Models

Audiocraft ประกอบด้วยสามรุ่น ได้แก่ Musicgen, Audiogen และ Encodec repo นี้มีวัตถุประสงค์เพื่อปรับใช้โมเดล MusicGen ใน Amazon Sagemaker สำหรับการอนุมานแบบอะซิงโครนัส

ภาพรวมการแก้ปัญหา

ผู้ใช้เรียกใช้จุดสิ้นสุดแบบอะซิงโครนัส Sagemaker โดยใช้สมุดบันทึก Sagemaker Studio
น้ำหนักบรรทุกอินพุตถูกอัปโหลดไปยังถัง S3 สำหรับการอนุมาน น้ำหนักบรรทุกประกอบด้วยทั้งพารามิเตอร์พรอมต์และการสร้างเพลง เพลงที่สร้างขึ้นจะถูกดาวน์โหลดจาก Bucket S3
รุ่น facebook/musicgen-large จะถูกนำไปใช้กับจุดสิ้นสุดแบบอะซิงโครนัส Sagemaker จุดสิ้นสุดนี้จะถูกใช้เพื่ออนุมานสำหรับการสร้างเพลง
ภาพคอนเทนเนอร์ HuggingFace จะใช้เป็นภาพพื้นฐาน เราจะใช้รูปภาพที่รองรับ Pytorch 2.1.0 ด้วยกรอบ Transformers HuggingFace
Sagemaker HuggingFaceModel จะถูกนำไปใช้กับจุดสิ้นสุดแบบอะซิงโครนัส Sagemaker
โมเดล HuggingFace, facebook/musicgen-large ในขอบเขตของบล็อกนี้จะถูกอัปโหลดไปยัง S3 ในระหว่างการปรับใช้ นอกจากนี้ในระหว่างการอนุมานเอาต์พุตที่สร้างขึ้นจะถูกอัปโหลดไปยัง S3
หัวข้อ Amazon SNS เพื่อแจ้งความสำเร็จและความล้มเหลวถูกกำหนดให้เป็นส่วนหนึ่งของการกำหนดค่าการอนุมานแบบอะซิงโครนัส Sagemaker

การอนุมานลำดับแบบอะซิงโครนัสสำหรับ HuggingFace Model Facebook/MusicGen-Large บน Amazon Sagemaker

Async การอนุมานลำดับการไหลของจุดสิ้นสุด

สมุดบันทึกการปรับใช้และการอนุมาน

สมุดบันทึกการปรับใช้ที่ใช้ใน repo นี้ใช้ HuggingFace เป็นผู้ให้บริการรุ่นสำหรับรุ่น MusicGen Noteboks การปรับใช้และการอนุมานที่สอดคล้องกันสำหรับโมเดลที่เกี่ยวข้องจะถูกแบ่งเป็นตารางด้านล่าง

รหัสโมเดล Huggingace	ปรับใช้สมุดบันทึก	สมุดรับรองการอนุมาน
Facebook/Musicgen ขนาดใหญ่	ปรับใช้	การอนุมาน
Facebook/Musicgen-Medium	ปรับใช้	การอนุมาน
Facebook/Musicgen-small	ปรับใช้	การอนุมาน

การอ้างอิง

Open Sourcing Audiocraft: Generative AI สำหรับเสียงที่ง่ายและพร้อมใช้งานสำหรับทุกคน
https://huggingface.co/facebook/musicgen-large
https://huggingface.co/docs/transformers/model_doc/musicgen#generation
https://github.com/facebookresearch/audiocraft/blob/main/readme.md
https://sagemaker.readthedocs.io/en/stable/frameworks/huggingface/sagemaker.huggingface.html#hugging-face-model
https://sagemaker.readthedocs.io/en/stable/api/inference/predictors.html#sagemaker.predictor.predictor.predict
https://github.com/aws/amazon-sagemaker-examples/blob/main/async-inference/transcription_on_sm_endpoint.ipynb
https://docs.aws.amazon.com/sagemaker/latest/dg/large-model-inference-uncompressed.html
https://docs.aws.amazon.com/sagemaker/latest/dg/asyncinference-create-endpoint.html

ความปลอดภัย

ดูข้อมูลเพิ่มเติม

การอ้างอิง

 @inproceedings{copet2023simple,
    title={Simple and Controllable Music Generation},
    author={Jade Copet and Felix Kreuk and Itai Gat and Tal Remez and David Kant and Gabriel Synnaeve and Yossi Adi and Alexandre Défossez},
    booktitle={Thirty-seventh Conference on Neural Information Processing Systems},
    year={2023},
}