brevitas

Brevitas

Brevitas adalah perpustakaan Pytorch untuk kuantisasi jaringan saraf, dengan dukungan untuk kuantisasi pasca-pelatihan (PTQ) dan pelatihan kuantisasi-sadar (QAT) .

Harap dicatat bahwa Brevitas adalah proyek penelitian dan bukan produk Xilinx resmi.

Jika Anda menyukai proyek ini, harap pertimbangkan repo ini, karena ini adalah cara paling sederhana dan terbaik untuk mendukungnya.

Persyaratan

• Python> = 3.8.
• Pytorch> = 1.9.1, <= 2.1 (versi yang lebih baru akan belum teruji).
• Windows, Linux atau MacOS.
• Akselerasi waktu pelatihan GPU ( opsional tetapi direkomendasikan).

Instalasi

Anda dapat menginstal rilis terbaru dari PYPI:

pip install brevitas

Memulai

Brevitas saat ini menawarkan implementasi kuantisasi dari lapisan pytorch yang paling umum digunakan dalam DNN di bawah brevitas.nn , seperti QuantConv1d , QuantConv2d , QuantConvTranspose1d , QuantConvTranspose2d , QuantMultiheadAttention QuantRNN , QuantLSTM dll, untuk adopsi di dalam pt dan quantrnn. Untuk masing -masing lapisan ini, kuantisasi tensor yang berbeda (input, bobot, bias, output, dll) dapat disetel secara individual sesuai dengan berbagai pengaturan kuantisasi.

Sebagai referensi untuk PTQ, Brevitas memberikan contoh aliran pengguna untuk model klasifikasi ImageNet di bawah brevitas_examples.imagenet_classification.ptq yang menghitung model input obor menggunakan PTQ di bawah konfigurasi kuantisasi yang berbeda (misalnya lebar bit, granularitas skala, dll).

Untuk info lebih lanjut, checkout panduan memulai kami.

Mengutip sebagai

Jika Anda mengadopsi brevitas dalam pekerjaan Anda, silakan mengutipnya sebagai:

 @software{brevitas,
  author       = {Alessandro Pappalardo},
  title        = {Xilinx/brevitas},
  year         = {2023},
  publisher    = {Zenodo},
  doi          = {10.5281/zenodo.3333552},
  url          = {https://doi.org/10.5281/zenodo.3333552}
}

Sejarah

• 2024/10/10 - Versi rilis 0.11.0, lihat catatan rilis.
• 2024/07/23 - Versi rilis minor 0.10.3, lihat catatan rilis.
• 2024/02/19 - Versi rilis minor 0.10.2, lihat catatan rilis.
• 2024/02/15 - Versi rilis minor 0.10.1, lihat catatan rilis.
• 2023/12/08 - Versi rilis 0.10.0, lihat catatan rilis.
• 2023/04/28 - Versi rilis minor 0.9.1, lihat catatan rilis.
• 2023/04/21 - Versi rilis 0.9.0, lihat catatan rilis.
• 2023/01/10 - Versi rilis 0.8.0, lihat catatan rilis.
• 2021/12/13 - Rilis versi 0.7.1, perbaiki banyak masalah. Menambahkan notebook tutorial TVMCON 2021.
• 2021/11/03 - Versi ulang -ulang 0.7.0 (Build 1) Di PYPI untuk memperbaiki masalah pengemasan.
• 2021/10/29 - Versi rilis 0.7.0, lihat catatan rilis.
• 2021/06/04 - Versi rilis 0.6.0, lihat catatan rilis.
• 2021/05/24 - Rilis versi 0.5.1, perbaiki banyak masalah kecil. Lihat catatan rilis.
• 2021/05/06 - Versi rilis 0.5.0, lihat catatan rilis.
• 2021/03/15 - Rilis versi 0.4.0, tambahkan dukungan untuk __Torch_function__ ke QuantTensor.
• 2021/03/04 - Versi rilis 0.3.1, perbaiki bug w/ ACT inisialisasi dari statistik w/ abaikan_missing_keys = 1.
• 2021/03/01 - Rilis versi 0.3.0, mengimplementasikan pemecah enum dan bentuk dalam injektor ketergantungan yang diperluas. Ini memungkinkan kuantisasi deklaratif untuk mandiri.
• 2021/02/04 - Versi rilis 0.2.1, mencakup berbagai perbaikan bug quanttensor w/nol -point.
• 2021/01/30 - Versi rilis pertama 0.2.0 di PYPI.