brevitas

Brevitas

Brevitas ist eine Pytorch-Bibliothek für die Quantisierung des neuronalen Netzwerks mit Unterstützung sowohl für die Quantisierung nach der Ausbildung (PTQ) als auch für das quantisierungsbewusste Training (QAT) .

Bitte beachten Sie, dass Brevitas ein Forschungsprojekt und kein offizielles Xilinx -Produkt ist.

Wenn Ihnen dieses Projekt gefällt, betrachten Sie bitte dieses Repo, da dies der einfachste und beste Weg ist, es zu unterstützen.

Anforderungen

• Python> = 3,8.
• Pytorch> = 1.9.1, <= 2.1 (neuere Versionen wären ungetestet).
• Windows, Linux oder MacOS.
• GPU-Schulungszeitbeschleunigung ( optional , aber empfohlen).

Installation

Sie können die neueste Version von PYPI installieren:

pip install brevitas

Erste Schritte

Brevitas QuantRNN QuantLSTM quantisierte QuantConvTranspose2d der häufigsten Pytorch QuantConv1d QuantConv2d die QuantConvTranspose1d DNN QuantMultiheadAttention brevitas.nn verwendet werden. Für jede dieser Schichten kann die Quantisierung verschiedener Tensoren (Eingänge, Gewichte, Verzerrung, Ausgänge usw.) einzeln entsprechend einem weiten Bereich der Quantisierungseinstellungen abgestimmt werden.

Als Referenz für PTQ liefert Brevitas einen Beispiel für den Benutzerfluss für ImageNet-Klassifizierungsmodelle unter brevitas_examples.imagenet_classification.ptq , das ein Eingangs-Torchvisionsmodell unter Verwendung von PTQ unter verschiedenen Quantisierungskonfigurationen (z. B. Bit-Width, Granularität der Skala usw.) quantifiziert.

Weitere Informationen finden Sie in unserem Erste -Start -Leitfaden.

Zitieren als

Wenn Sie Brevitas in Ihrer Arbeit annehmen, zitieren Sie es bitte als:

 @software{brevitas,
  author       = {Alessandro Pappalardo},
  title        = {Xilinx/brevitas},
  year         = {2023},
  publisher    = {Zenodo},
  doi          = {10.5281/zenodo.3333552},
  url          = {https://doi.org/10.5281/zenodo.3333552}
}

Geschichte

• 2024/10/10 - Version 0,11.0 Release, siehe Versionshinweise.
• 2024/07/23 - Minor -Release -Version 0.10.3, siehe Versionshinweise.
• 2024/02/19 - Minor -Release -Version 0.10.2, siehe Versionshinweise.
• 2024/02/15 - Minor -Release -Version 0.10.1, siehe Versionshinweise.
• 2023/12/08 - Version 0,10.0 Release, siehe Versionshinweise.
• 2023/04/28 - Minor -Release -Version 0.9.1, siehe Versionshinweise.
• 2023/04/21 - Version 0.9.0, siehe Versionshinweise.
• 2023/01/10 - Version 0,8.0 Release, siehe Versionshinweise.
• 2021/12/13 - Version 0,7.1 Release, beheben Sie eine Reihe von Problemen. TVMCON 2021 Tutorial Notebook hinzugefügt.
• 2021/11/03 - Version 0,7.0 (Build 1) auf PYPI zur Behebung eines Verpackungsproblems neu.
• 2021/10/29 - Version 0,7.0 Release, siehe Versionshinweise.
• 2021/06/04 - Version 0,6.0 Release, siehe Versionshinweise.
• 2021/05/24 - Version 0,5.1 Release, beheben Sie eine Reihe kleinerer Probleme. Siehe Versionshinweise.
• 2021/05/06 - Release -Version 0.5.0, siehe Versionshinweise.
• 2021/03/15 - Version 0.4.0 Release -Version für __torch_function__ zum Quantensor hinzufügen.
• 2021/03/04 - Version 0.3.1, fix fehler mit Initialisierung aus Statistiken w/ ignore_miss_keys = 1.
• 2021/03/01 - Release -Version 0.3.0, implementiert Enum- und Formlöser innerhalb erweiterter Abhängigkeitsinjektoren. Dadurch können deklarative Quantizer in sich geschlossen werden.
• 2021/02/04 - Release -Version 0.2.1, enthält verschiedene Fehler von Quanttensor mit Nullpunkt.
• 2021/01/30 - Erste Version 0,2.0 auf PYPI.