vocos mlx

VOCOS - MLX

Implementação do VOCOS com a estrutura MLX. O VOCOS permite a reconstrução de alta qualidade de áudio a partir de espectrogramas MEL ou tokens de codec.

VOCOS: Fechando a lacuna entre o domínio do tempo e os vocoders neurais baseados em Fourier para síntese de áudio de alta qualidade

Papel [ABS] [PDF]

Instalação

Para usar o VOCOS no modo de inferência, instale -o usando:

pip install vocos-mlx

Uso

Espectrograma MEL

 from vocos_mlx import Vocos , load_audio , log_mel_spectrogram

vocos = Vocos . from_pretrained ( "lucasnewman/vocos-mel-24khz" )

# reconstruct
audio = load_audio ( "audio.wav" , 24_000 )
reconstructed_audio = vocos ( audio )

# decode from mel spec
mel_spec = log_mel_spectrogram ( audio , n_mels = 100 )
decoded_audio = vocos . decode ( mel_spec )

Encodec

 from vocos_mlx import Vocos , load_audio

vocos = Vocos . from_pretrained ( "lucasnewman/vocos-encodec-24khz" )

# reconstruct
audio = load_audio ( "audio.wav" , 24_000 )
reconstructed_audio = vocos ( audio , bandwidth_id = 3 )

# decode with encodec codes
codes = vocos . get_encodec_codes ( audio , bandwidth_id = 3 )
decoded_audio = vocos . decode_from_codes ( codes , bandwidth_id = 3 )

Apreciação

Awni Hannun para a implementação do Encodec de referência para MLX.

Citações

 @article{siuzdak2023vocos,
  title={Vocos: Closing the gap between time-domain and Fourier-based neural vocoders for high-quality audio synthesis},
  author={Siuzdak, Hubert},
  journal={arXiv preprint arXiv:2306.00814},
  year={2023}
}

Licença

O código deste repositório é liberado sob a licença do MIT, conforme encontrado no arquivo de licença.