torchstat

토치 스타트

이것은 Pytorch를 기반으로 한 가벼운 신경망 분석기입니다. 네트워크를 디버깅 할 수있는 능력으로 네트워크를 빠르고 쉽게 구축 할 수 있도록 설계되었습니다. 참고 :이 저장소는 현재 개발 중입니다. 따라서 일부 API가 변경 될 수 있습니다.

이 도구는 보여줄 수 있습니다

• 네트워크 매개 변수의 총 수
• 이론적 인 부동 소수의 플로팅 포인트 산술 (FLOPS)
• 이론적 인 곱하기 양 (MADD)
• 메모리 사용

설치

TorchStat를 환경에 설치하는 두 가지 방법이 있습니다.

• PIP를 통해 설치하십시오.

$ pip install torchstat

• 이 저장소를 복제 한 후 setup.py를 사용하여 설치하고 업데이트하십시오.

$ python3 setup.py install

간단한 예

TorchStat를 최대한 빨리 실행하려면 스크립트에 네트워크가 존재하면 CLI 도구라고 부를 수 있습니다. 그렇지 않으면 TorchStat를 모듈로 가져와야합니다.

CLI 도구

$ torchstat masato$ torchstat -f example.py -m Net
[MAdd]: Dropout2d is not supported !
[Flops]: Dropout2d is not supported !
[Memory]: Dropout2d is not supported !
      module name  input shape output shape     params memory(MB)           MAdd         Flops  MemRead(B)  MemWrite(B) duration[%]   MemR+W(B)
0           conv1    3 224 224   10 220 220      760.0       1.85   72,600,000.0  36,784,000.0    605152.0    1936000.0      57.49%   2541152.0
1           conv2   10 110 110   20 106 106     5020.0       0.86  112,360,000.0  56,404,720.0    504080.0     898880.0      26.62%   1402960.0
2      conv2_drop   20 106 106   20 106 106        0.0       0.86            0.0           0.0         0.0          0.0       4.09%         0.0
3             fc1        56180           50  2809050.0       0.00    5,617,950.0   2,809,000.0  11460920.0        200.0      11.58%  11461120.0
4             fc2           50           10      510.0       0.00          990.0         500.0      2240.0         40.0       0.22%      2280.0
total                                        2815340.0       3.56  190,578,940.0  95,998,220.0      2240.0         40.0     100.00%  15407512.0
===============================================================================================================================================
Total params: 2,815,340
-----------------------------------------------------------------------------------------------------------------------------------------------
Total memory: 3.56MB
Total MAdd: 190.58MMAdd
Total Flops: 96.0MFlops
Total MemR+W: 14.69MB

특정 명령을 사용하는 방법이 확실하지 않은 경우 -h 또는 –help 스위치로 명령을 실행하십시오. 사용법 정보와 명령과 함께 사용할 수있는 옵션 목록이 표시됩니다.

기준 치수

 from torchstat import stat
import torchvision . models as models

model = models . resnet18 ()
stat ( model , ( 3 , 224 , 224 ))

특징 및 TODO

참고 :이 기능은 NN.Module 만 작동합니다. Torch.nn.의 모듈은 아직 지원되지 않았습니다.

• 플롭
• 매개 변수 수
• 총 기억
• madd (fma)
• Memread
• memwrite
• 모델 요약 (세부 사항, 계층 별)
• 수출 점수 테이블
• 임의의 입력 모양

지원되는 계층의 경우 세부 사항을 확인하십시오.

요구 사항

• 파이썬 3.6+
• Pytorch 0.4.0+
• 팬더 0.23.4+
• Numpy 1.14.3+

참조

Flops 계산의 초기 버전에 대한 @Sovrasov, 스크립트 백본에 대한 @Ceykmc에게 감사드립니다.

• flops-counter.pytorch
• pytorch_model_summary
• Chainer_computational_cost
• Convnet-Burden.