inference audiocraft musicgen on amazon sagemaker

Inférence Audiocraft Musicgen sur Amazon Sagemaker

Déployez Audiocraft Musicgen sur Amazon Sagemaker à l'aide de points de terminaison Sagemaker pour l'inférence asynchrone.

Blog: Inférence Audiocraft Musicgen Modèles utilisant Amazon Sagemaker

Cette solution démontre le déploiement de modèles Audiocraft Musicgen de Huggingface sur Amazon SageMaker. Les modèles Musicgen prennent le texte du langage naturel comme invite d'entrée et génèrent de la musique en sortie.

Audiocraft se compose de trois modèles: Musicgen, Audiogen et Encodec. Ce repo vise à déployer des modèles de musique sur Amazon Sagemaker pour l'inférence asynchrone.

Présentation de la solution

1. L'utilisateur invoque le point de terminaison asynchrone Sagemaker à l'aide d'un ordinateur portable SageMaker Studio.
2. La charge utile d'entrée est téléchargée sur un seau S3 pour l'inférence. La charge utile se compose à la fois de l'invite et des paramètres de génération de musique. La musique générée sera téléchargée à partir du seau S3.
3. Le modèle facebook/musicgen-large sera déployé sur un point de terminaison asynchrone sagemaker. Ce point de terminaison sera utilisé pour déduire pour la génération de musique.
4. L'image des conteneurs d'inférence HuggingFace sera utilisée comme image de base. Nous utiliserons une image qui prend en charge Pytorch 2.1.0 avec un cadre de transformateurs HuggingFace.
5. Le Sagemaker HuggingFaceModel sera déployé sur un point de terminaison asynchrone asynchrone.
6. Le modèle HuggingFace, facebook/musicgen-large dans le cadre de ce blog, sera téléchargé sur S3 pendant le déploiement. De plus, pendant l'inférence, les sorties générées seront téléchargées sur S3.
7. Les sujets Amazon SNS pour informer le succès et l'échec sont définis comme faisant partie de la configuration d'inférence asynchrone de SageMaker.

Flux de séquence d'inférence asynchrone pour HuggingFace Model Facebook / Musicgen-Garg sur Amazon Sagemaker

Déploiement et inférences cahiers

Les cahiers de déploiement utilisés dans ce dépôt utilisent HuggingFace comme fournisseur de modèles pour les modèles Musicgen. Le déploiement et les billets d'inférence correspondants pour les modèles respectifs sont impliqués ci-dessous.

ID du modèle HuggingAce	Déploiement du cahier	Cahier d'inférence
Facebook / Musicgen-Garn	Déployer	Inférence
Facebook / Musicgen-Medium	Déployer	Inférence
Facebook / Musicgen-Small	Déployer	Inférence

Références

• Audiocraft d'ouvre ou d'ouverture: AI génératif pour l'audio est simple et disponible pour tous
• https://huggingface.co/facebook/musicgen-large
• https://huggingface.co/docs/transformateurs/model_doc/musicgen#generation
• https://github.com/facebookresearch/audiocraft/blob/main/readme.md
• https://sagemaker.readthedocs.io/en/stable/frameworks/huggingface/sagemaker.huggingface.html#hugging-face-model
• https://sagemaker.readthedocs.io/en/stable/api/inference/preditors.html#sagemaker.predictor.predictor.predict
• https://github.com/aws/amazon-sagemaker-exemples/blob/main/async-inference/transcription_on_sm_endpoint.ipynb
• https://docs.aws.amazon.com/sagemaker/latest/dg/large-model-inference-uncompresmp.html
• https://docs.aws.amazon.com/sagemaker/latest/dg/async-inference-create-endpoint.html

Sécurité

Voir contribuer pour plus d'informations.

Citation

 @inproceedings{copet2023simple,
    title={Simple and Controllable Music Generation},
    author={Jade Copet and Felix Kreuk and Itai Gat and Tal Remez and David Kant and Gabriel Synnaeve and Yossi Adi and Alexandre Défossez},
    booktitle={Thirty-seventh Conference on Neural Information Processing Systems},
    year={2023},
}

Licence

Cette bibliothèque est autorisée sous la licence MIT-0. Voir le fichier de licence.