brevitas

布雷維塔斯

Brevitas是用於神經網絡量化的Pytorch庫，並支持訓練後量化（PTQ）和量化感知培訓（QAT） 。

請注意，Brevitas是一個研究項目，而不是官方Xilinx產品。

如果您喜歡這個項目，請考慮此回購，因為它是支持它的最簡單和最佳方法。

要求

• python> = 3.8。
• pytorch> = 1.9.1，<= 2.1（未經測試的版本將未經測試）。
• Windows，Linux或MacOS。
• GPU訓練時間加速度（可選但建議）。

安裝

您可以安裝PYPI的最新版本：

pip install brevitas

入門

Brevitas目前提供了brevitas.nn中最常見的Pytorch層的量化實現，例如QuantConv1d ， QuantConv2d ，pontconv2d， QuantConvTranspose1d ， QuantConvTranspose2d ，pontconvtranspose2d， QuantMultiheadAttention ，quantrnn， QuantRNN ， QuantLSTM等，供PTQ和/或/或或QAT。對於這些層中的每一個，可以根據廣泛的量化設置對不同張量（輸入，權重，偏置，輸出等）進行量化。

作為PTQ的參考，BREVITA提供了一個示例用戶流，用於brevitas_examples.imagenet_classification.ptq下的Imagenet分類模型的示例用戶流，該模型在不同量化配置下使用PTQ量化輸入torchvision模型（例如位寬度，例如，尺度的顆粒狀等）。

有關更多信息，請查看我們的入門指南。

引用為

如果您在工作中採用Brevitas，請將其引用為：

 @software{brevitas,
  author       = {Alessandro Pappalardo},
  title        = {Xilinx/brevitas},
  year         = {2023},
  publisher    = {Zenodo},
  doi          = {10.5281/zenodo.3333552},
  url          = {https://doi.org/10.5281/zenodo.3333552}
}

歷史

• 2024/10/ 10-發布版本0.11.0，請參閱發行說明。
• 2024/07/ 23-次要版本0.10.3，請參閱發行說明。
• 2024/02/ 19-次要版本0.10.2，請參閱發行說明。
• 2024/02/ 15-次要版本0.10.1，請參閱發行說明。
• 2023/12/ 08-發布版本0.10.0，請參閱發行說明。
• 2023/04/ 28-次要版本0.9.1，請參閱發行說明。
• 2023/04/ 21-發行版本0.9.0，請參閱發行說明。
• 2023/01/ 10-發布版本0.8.0，請參閱發行說明。
• 2021/12/13-發布版本0.7.1，修復了一堆問題。添加了TVMCON 2021教程筆記本。
• 2021/11/ 03-在PYPI上重新發布0.7.0版（構建1），以解決包裝問題。
• 2021/10/ 29-發布版本0.7.0，請參閱發行說明。
• 2021/06/ 04-發布版本0.6.0，請參閱發行說明。
• 2021/05/24-發行版本0.5.1，修復了一堆小問題。請參閱發行說明。
• 2021/05/ 06-發布版本0.5.0，請參閱發行說明。
• 2021/03/ 15-發布版本0.4.0，添加對__Torch_Function__ __的支持。
• 2021/03/ 04-發行版本0.3.1，修復來自統計信息w/ ignore_missing_keys = 1的w/ act初始化的錯誤。
• 2021/03/ 01-發行版本0.3.0，在擴展依賴項注射器中實現枚舉和形狀求解器。這允許聲明性的量化器具有獨立性。
• 2021/02/ 04-發布版本0.2.1，包括帶零點的QATENTENSOR的各種錯誤。
• 2021/01/30- PYPI上的第一版0.2.0版本。