inference audiocraft musicgen on amazon sagemaker

Inference Audiocraft Musicgen di Amazon Sagemaker

Menyebarkan Audiocraft MusicGen di Amazon Sagemaker menggunakan titik akhir Sagemaker untuk inferensi async.

Blog: Model Musicgen Audiocraft Inference Menggunakan Amazon Sagemaker

Solusi ini menunjukkan menggunakan model musik audiocraft dari Huggingface di Amazon Sagemaker. Model MusicGen mengambil teks bahasa alami sebagai prompt input dan menghasilkan musik sebagai output.

Audiocraft terdiri dari tiga model: MusicGen, Audiogen, dan Encodec. Repo ini bertujuan untuk menggunakan model musik di Amazon Sagemaker untuk inferencing asinkron.

Tinjauan Solusi

1. Pengguna memanggil Sagemaker Asynchronous Endpoint menggunakan Sagemaker Studio Notebook.
2. Muatan input diunggah ke ember S3 untuk inferensi. Payload terdiri dari parameter prompt dan pembuatan musik. Musik yang dihasilkan akan diunduh dari S3 Bucket.
3. Model facebook/musicgen-large akan digunakan ke titik akhir asinkron Sagemaker. Titik akhir ini akan digunakan untuk menyimpulkan untuk generasi musik.
4. Gambar wadah inferensi huggingface akan digunakan sebagai gambar dasar. Kami akan menggunakan gambar yang mendukung Pytorch 2.1.0 dengan kerangka kerja Huggingface Transformers.
5. Sagemaker HuggingFaceModel akan digunakan ke titik akhir asinkron Sagemaker.
6. Model Huggingface, facebook/musicgen-large dalam ruang lingkup blog ini, akan diunggah ke S3 selama penyebaran. Juga, selama inferensi, output yang dihasilkan akan diunggah ke S3.
7. Topik SNS Amazon untuk memberi tahu keberhasilan dan kegagalan didefinisikan sebagai bagian dari konfigurasi inferensi asinkron Sagemaker.

Aliran Urutan Inferensi Asinkron untuk Model Huggingface Facebook/Musicgen-Large di Amazon Sagemaker

Notebook Penyebaran dan Inferensi

Notebook penyebaran yang digunakan dalam repo ini menggunakan HuggingFace sebagai penyedia model untuk model MusicGen. Penyebaran dan notebok inferensi yang sesuai untuk masing -masing model diubah di bawah ini.

ID Model Huggingace	Menyebarkan buku catatan	Notebook inferensi
Facebook/Musicgen-Large	Menyebarkan	Kesimpulan
Facebook/Musicgen-Medium	Menyebarkan	Kesimpulan
Facebook/Musicgen-Small	Menyebarkan	Kesimpulan

Referensi

• Open Sourcing Audiocraft: AI generatif untuk audio dibuat sederhana dan tersedia untuk semua
• https://huggingface.co/facebook/musicgen-large
• https://huggingface.co/docs/transformers/model_doc/musicgen#generation
• https://github.com/faceBookResearch/Audiocraft/blob/main/readme.md
• https://sagemaker.readthedocs.io/en/stable/frameworks/huggingface/sagemaker.huggingface.html#hugging-face-odel
• https://sagemaker.readthedocs.io/en/stable/api/inference/predictors.html#sagemaker.predictor.predictor.predict
• https://github.com/aws/amazon-sagemaker-examples/blob/main/async-inference/transcription_on_sm_endpoint.ipynb
• https://docs.aws.amazon.com/sagemaker/latest/dg/large-model-inference-ununcompressed.html
• https://docs.aws.amazon.com/sagemaker/latest/dg/async-inference-create-endpoint.html

Keamanan

Lihat berkontribusi untuk informasi lebih lanjut.

Kutipan

 @inproceedings{copet2023simple,
    title={Simple and Controllable Music Generation},
    author={Jade Copet and Felix Kreuk and Itai Gat and Tal Remez and David Kant and Gabriel Synnaeve and Yossi Adi and Alexandre Défossez},
    booktitle={Thirty-seventh Conference on Neural Information Processing Systems},
    year={2023},
}

Lisensi

Perpustakaan ini dilisensikan di bawah lisensi MIT-0. Lihat file lisensi.