inference audiocraft musicgen on amazon sagemaker

Amazon Sagemaker上推斷Audiocraft Musicgen

使用SageMaker端點進行異步推理，在Amazon Sagemaker上部署Audiocraft Musicgen。

博客：使用Amazon SageMaker推理Audiocraft Musicgen模型

該解決方案展示了從Amazon Sagemaker上的HuggingFace部署Audiocraft Musicgen模型。 MusicGen模型將自然語言文本作為輸入提示，並將音樂作為輸出。

聽眾由三種型號組成：MusicGen，Audiogen和codec。該回購旨在在Amazon Sagemaker上部署MusicGen模型，以進行異步推斷。

解決方案概述

1. 用戶使用SageMaker Studio筆記本來調用SageMaker異步端點。
2. 輸入有效載荷已上傳到S3存儲桶以進行推理。有效載荷包括提示和音樂生成參數。生成的音樂將從S3存儲桶中下載。
3. facebook/musicgen-large模型將部署到SageMaker異步端點。該終點將用於推斷音樂發電。
4. HuggingFace推理容器圖像將用作基本圖像。我們將使用支持Pytorch 2.1.0的圖像，並使用HuggingFace Transferes框架。
5. Sagemaker HuggingFaceModel將部署到sagemaker異步端點。
6. Huggingface模型是該博客範圍中的facebook/musicgen-large ，將在部署期間上傳到S3。同樣，在推斷期間，生成的輸出將上傳到S3。
7. Amazon SNS主題通知成功和失敗被定義為SageMaker異步推理配置的一部分。

Amazon Sagemaker上的HuggingFace模型的異步推理序列流量Facebook/Musicgen-Large

部署和推理筆記本

此存儲庫中使用的部署筆記本使用HuggingFace作為MusicGen模型的模型提供商。下面列出了相應模型的相應部署和推理notboks。

Huggingace模型ID	部署筆記本	推理筆記本
Facebook/Musicgen-Large	部署	推理
Facebook/Musicgen-Medium	部署	推理
Facebook/Musicgen-small	部署	推理

參考

• 開放採購的聽力：用於音頻的生成AI簡單，可供所有人使用
• https://huggingface.co/facebook/musicgen-large
• https://huggingface.co/docs/transformers/model_doc/musicgen#generation
• https://github.com/facebookresearch/audiocraft/blob/main/readme.md
• https://sagemaker.readthedocs.io/en/stable/frameworks/huggingface/sagemaker.huggingface.html#hugging-face-model
• https://sagemaker.readthedocs.io/en/stable/api/inference/predictors.html#sagemaker.predictor.predictor.predict.predict
• https://github.com/aws/amazon-sagemaker-examples/blob/main/async-inference/transcription_on_sm_endpoint.ipynb
• https://docs.aws.amazon.com/sagemaker/latest/dg/large-model-inperion-uncompressed.html
• https://docs.aws.amazon.com/sagemaker/latest/dg/async-inference-create-create-endpoint.html

安全

有關更多信息，請參見貢獻。

引用

 @inproceedings{copet2023simple,
    title={Simple and Controllable Music Generation},
    author={Jade Copet and Felix Kreuk and Itai Gat and Tal Remez and David Kant and Gabriel Synnaeve and Yossi Adi and Alexandre Défossez},
    booktitle={Thirty-seventh Conference on Neural Information Processing Systems},
    year={2023},
}

執照

該圖書館已獲得MIT-0許可證的許可。請參閱許可證文件。