vocos mlx

Vocos - MLX

Implementación de VOCOS con el marco MLX. Vocos permite una reconstrucción de alta calidad de audio de espectrogramas MEL o tokens Encodec.

Vocos: cerrar la brecha entre el dominio del tiempo y los vocoders neurales basados en Fourier para la síntesis de audio de alta calidad

Papel [ABS] [PDF]

Instalación

Para usar VOCOS en modo de inferencia, instálelo usando:

pip install vocos-mlx

Uso

Espectrograma MEL

 from vocos_mlx import Vocos , load_audio , log_mel_spectrogram

vocos = Vocos . from_pretrained ( "lucasnewman/vocos-mel-24khz" )

# reconstruct
audio = load_audio ( "audio.wav" , 24_000 )
reconstructed_audio = vocos ( audio )

# decode from mel spec
mel_spec = log_mel_spectrogram ( audio , n_mels = 100 )
decoded_audio = vocos . decode ( mel_spec )

Encodeco

 from vocos_mlx import Vocos , load_audio

vocos = Vocos . from_pretrained ( "lucasnewman/vocos-encodec-24khz" )

# reconstruct
audio = load_audio ( "audio.wav" , 24_000 )
reconstructed_audio = vocos ( audio , bandwidth_id = 3 )

# decode with encodec codes
codes = vocos . get_encodec_codes ( audio , bandwidth_id = 3 )
decoded_audio = vocos . decode_from_codes ( codes , bandwidth_id = 3 )

Apreciación

Awni Hannun para la implementación de Encodec de referencia para MLX.

Citas

 @article{siuzdak2023vocos,
  title={Vocos: Closing the gap between time-domain and Fourier-based neural vocoders for high-quality audio synthesis},
  author={Siuzdak, Hubert},
  journal={arXiv preprint arXiv:2306.00814},
  year={2023}
}

Licencia

El código en este repositorio se publica bajo la licencia MIT como se encuentra en el archivo de licencia.