inference audiocraft musicgen on amazon sagemaker

الاستدلال Audiocraft MusicGen على Amazon Sagemaker

نشر MusicGen Audiocraft على Amazon Sagemaker باستخدام نقاط نهاية Sagemaker لاستدلال Async.

المدونة: الاستدلال Audiocraft MusicGen Models باستخدام Amazon Sagemaker

يوضح هذا الحل نشر طرز MusicGen Audiocraft من Huggingface على Amazon Sagemaker. تأخذ نماذج MusicGen نص اللغة الطبيعية كمطالبة إدخال وإنشاء الموسيقى كمخرجات.

يتكون Audiocraft من ثلاثة طرز: MusicGen و Audiogen و Encodec. يهدف هذا الريبو إلى نشر طرز MusicGen على Amazon Sagemaker لاستدلال غير متزامن.

نظرة عامة على الحل

1. يستدعي المستخدم نقطة النهاية غير المتزامنة في Sagemaker باستخدام دفتر Sagemaker Studio Notebook.
2. يتم تحميل حمولة الإدخال إلى دلو S3 للاستدلال. يتكون الحمولة من كل من المعلمات المطبقة وتوليد الموسيقى. سيتم تنزيل الموسيقى التي تم إنشاؤها من دلو S3.
3. سيتم نشر طراز facebook/musicgen-large في نقطة نهاية غير متزامنة. سيتم استخدام نقطة النهاية هذه لاستنتاج توليد الموسيقى.
4. سيتم استخدام صورة حاويات الاستدلال المعانقة كصورة أساسية. سوف نستخدم صورة تدعم Pytorch 2.1.0 مع إطار Luggingface Transformers.
5. سيتم نشر Sagemaker HuggingFaceModel في نقطة نهاية غير متزامنة.
6. سيتم تحميل نموذج Huggingface ، facebook/musicgen-large في نطاق هذه المدونة ، إلى S3 أثناء النشر. أيضًا ، أثناء الاستدلال ، سيتم تحميل المخرجات التي تم إنشاؤها إلى S3.
7. يتم تعريف موضوعات Amazon SNS لإخطار النجاح والفشل كجزء من تكوين الاستدلال غير المتزامن.

تدفق تسلسل الاستدلال غير المتزامن لنموذج Huggingface Facebook/MusicGen-Large على Amazon Sagemaker

دفاتر النشر والاستدلال

تستخدم دفاتر نشرات النشر المستخدمة في هذا الريبو معانقة كمزود نموذج لنماذج MusicGen. يتم نقل النشر المقابل والاستدلال noteboks للنماذج المعنية أدناه.

معرف نموذج Huggingace	نشر دفتر الملاحظات	دفتر الاستدلال
Facebook/Musicgen-Large	نشر	الاستدلال
Facebook/MusicGen-Medium	نشر	الاستدلال
Facebook/musicgen-small	نشر	الاستنتاج

مراجع

• المفتوح المصادر السمعية: AI التوليد للصوت صنعت بسيطة ومتاحة للجميع
• https://huggingface.co/facebook/musicgen-large
• https://huggingface.co/docs/transformers/model_doc/musicgen#generation
• https://github.com/facebookresearch/audiocraft/blob/main/readme.md
• https://sagemaker.readthedocs.io/en/stable/frameworks/huggingface/sagemaker.hugging.html#hugging-face-model
• https://sagemaker.readthedocs.io/en/stable/api/inference/predictors.html#sagemaker.predictor.predictor.predict
• https://github.com/aws/amazon-sagemaker-examples/blob/main/async-inference/transcription_on_sm_endpoint.ipynb
• https://docs.aws.amazon.com/sagemaker/latest/dg/large-model-inference-uncompressed.html
• https://docs.aws.amazon.com/sagemaker/latest/dg/async-inference-create-endpoint.html

حماية

انظر المساهمة لمزيد من المعلومات.

اقتباس

 @inproceedings{copet2023simple,
    title={Simple and Controllable Music Generation},
    author={Jade Copet and Felix Kreuk and Itai Gat and Tal Remez and David Kant and Gabriel Synnaeve and Yossi Adi and Alexandre Défossez},
    booktitle={Thirty-seventh Conference on Neural Information Processing Systems},
    year={2023},
}

رخصة

هذه المكتبة مرخصة بموجب ترخيص MIT-0. انظر ملف الترخيص.