brevitas

Brevitas

Brevitas는 신경 네트워크 양자화를위한 Pytorch 라이브러리이며, PTQ (Post-Training Quantization) 및 양자화 인식 훈련 (QAT)을 지원합니다.

Brevitas는 공식 Xilinx 제품이 아닌 연구 프로젝트입니다.

이 프로젝트를 좋아한다면이 리포지기를 고려하십시오.

요구 사항

• 파이썬> = 3.8.
• Pytorch> = 1.9.1, <= 2.1 (보다 최근 버전은 테스트되지 않았습니다).
• Windows, Linux 또는 MacOS.
• GPU 교육 시간 가속도 ( 선택 사항 이지만 권장).

설치

PYPI에서 최신 릴리스를 설치할 수 있습니다.

pip install brevitas

시작하기

Brevitas는 현재 Ptq 및/또는 QAT 내에서 채택을 위해 QuantConv1d , QuantConv2d , QuantConvTranspose1d , QuantConvTranspose2d, QuantConvTranspose2d , QuantConvTranspose2d, QuantMultiheadAttention , QuantRNN , QuantLSTM 등과 같은 brevitas.nn 하의 DNN에 사용되는 가장 일반적인 Pytorch 층의 양자 구현을 제공합니다. 이들 층 각각에 대해, 다양한 텐서 (입력, 가중치, 바이어스, 출력 등)의 양자화는 광범위한 양자화 설정에 따라 개별적으로 조정할 수 있습니다.

PTQ에 대한 참조로서, Brevitas는 다른 양자화 구성 (EG 비트 필트, 척도 등)에서 PTQ를 사용하여 입력 토치 분할 모델을 정량화하는 brevitas_examples.imagenet_classification.ptq 에서 Imagenet 분류 모델에 대한 사용자 흐름을 제공합니다.

자세한 내용은 시작 가이드를 확인하십시오.

인용

작업에서 Brevitas를 입양하면 다음과 같이 인용하십시오.

 @software{brevitas,
  author       = {Alessandro Pappalardo},
  title        = {Xilinx/brevitas},
  year         = {2023},
  publisher    = {Zenodo},
  doi          = {10.5281/zenodo.3333552},
  url          = {https://doi.org/10.5281/zenodo.3333552}
}

역사

• 2024/10/ 10- 릴리스 버전 0.11.0, 릴리스 노트를 참조하십시오.
• 2024/07/ 23- 마이너 릴리스 버전 0.10.3, 릴리스 노트를 참조하십시오.
• 2024/02/ 19- 마이너 릴리스 버전 0.10.2, 릴리스 노트를 참조하십시오.
• 2024/02/ 15- 마이너 릴리스 버전 0.10.1, 릴리스 노트를 참조하십시오.
• 2023/12/ 08- 릴리스 버전 0.10.0, 릴리스 노트를 참조하십시오.
• 2023/04/ 28- 마이너 릴리스 버전 0.9.1, 릴리스 노트를 참조하십시오.
• 2023/04/ 21- 릴리스 버전 0.9.0, 릴리스 노트를 참조하십시오.
• 2023/01/ 10- 릴리스 버전 0.8.0, 릴리스 노트를 참조하십시오.
• 2021/12/13- 릴리스 버전 0.7.1, 많은 문제를 해결하십시오. TVMCON 2021 튜토리얼 노트북 추가.
• 2021/11/03- 포장 문제를 해결하기 위해 PYPI에서 버전 0.7.0 (빌드 1)을 다시 릴리스합니다.
• 2021/10/ 29- 릴리스 버전 0.7.0, 릴리스 노트를 참조하십시오.
• 2021/06/ 04- 릴리스 버전 0.6.0, 릴리스 노트를 참조하십시오.
• 2021/05/24- 릴리스 버전 0.5.1, 사소한 문제를 해결하십시오. 릴리스 노트를 참조하십시오.
• 2021/05/06- 릴리스 버전 0.5.0, 릴리스 노트를 참조하십시오.
• 2021/03/15- 릴리스 버전 0.4.0, _torch_function__에 대한 지원을 QuantTensor에 추가하십시오.
• 2021/03/04- 릴리스 버전 0.3.1, 통계에서 act 초기화가있는 버그 수정 exore_missing_keys = 1.
• 2021/03/01- 릴리스 버전 0.3.0, 확장 종속성 인젝터 내에서 열거 및 모양 솔버를 구현합니다. 이를 통해 선언적 양자자가 자체 포함 할 수 있습니다.
• 2021/02/ 04- 릴리스 버전 0.2.1에는 제로 포인트가있는 Quanttensor의 다양한 버그 문제가 포함되어 있습니다.
• 2021/01/30- PYPI의 첫 번째 릴리스 버전 0.2.0.