vocos mlx

Vocos - MLX

MLXフレームワークを使用したVoCOSの実装。 Vocosは、Mel SpectrogramsまたはEncodec Tokensからのオーディオの高品質の再構築を可能にします。

Vocos：高品質のオーディオ合成のための時間領域とフーリエベースのニューラルボコーダーの間のギャップを閉じる

論文[abs] [PDF]

インストール

推論モードでVoCOSを使用するには、以下を使用してインストールします。

pip install vocos-mlx

使用法

メルスペクトログラム

 from vocos_mlx import Vocos , load_audio , log_mel_spectrogram

vocos = Vocos . from_pretrained ( "lucasnewman/vocos-mel-24khz" )

# reconstruct
audio = load_audio ( "audio.wav" , 24_000 )
reconstructed_audio = vocos ( audio )

# decode from mel spec
mel_spec = log_mel_spectrogram ( audio , n_mels = 100 )
decoded_audio = vocos . decode ( mel_spec )

encodec

 from vocos_mlx import Vocos , load_audio

vocos = Vocos . from_pretrained ( "lucasnewman/vocos-encodec-24khz" )

# reconstruct
audio = load_audio ( "audio.wav" , 24_000 )
reconstructed_audio = vocos ( audio , bandwidth_id = 3 )

# decode with encodec codes
codes = vocos . get_encodec_codes ( audio , bandwidth_id = 3 )
decoded_audio = vocos . decode_from_codes ( codes , bandwidth_id = 3 )

感謝

MLXのリファレンスEncodec実装のAWNI HANNUN。

引用

 @article{siuzdak2023vocos,
  title={Vocos: Closing the gap between time-domain and Fourier-based neural vocoders for high-quality audio synthesis},
  author={Siuzdak, Hubert},
  journal={arXiv preprint arXiv:2306.00814},
  year={2023}
}

ライセンス

このリポジトリのコードは、ライセンスファイルで見つかったMITライセンスの下でリリースされます。