torchstat

Torchstat

這是基於Pytorch的輕量級神經網絡分析儀。它旨在使構建網絡快速，輕鬆，並具有調試功能。注意：此存儲庫目前正在開發中。因此，可能會更改一些API。

該工具可以顯示

• 網絡參數的總數
• 理論上的浮點算術（拖放）
• 理論上的多重添加量（MADD）
• 內存使用

安裝

有兩種將Torchstat安裝到您的環境中的方法。

• 通過PIP安裝。

$ pip install torchstat

• 克隆此存儲庫後，請使用setup.py安裝和更新。

$ python3 setup.py install

一個簡單的例子

如果您想盡快運行火炬，則可以將其稱為CLI工具，如果您的網絡存在於腳本中。否則，您需要將Torchstat導入一個模塊。

CLI工具

$ torchstat masato$ torchstat -f example.py -m Net
[MAdd]: Dropout2d is not supported !
[Flops]: Dropout2d is not supported !
[Memory]: Dropout2d is not supported !
      module name  input shape output shape     params memory(MB)           MAdd         Flops  MemRead(B)  MemWrite(B) duration[%]   MemR+W(B)
0           conv1    3 224 224   10 220 220      760.0       1.85   72,600,000.0  36,784,000.0    605152.0    1936000.0      57.49%   2541152.0
1           conv2   10 110 110   20 106 106     5020.0       0.86  112,360,000.0  56,404,720.0    504080.0     898880.0      26.62%   1402960.0
2      conv2_drop   20 106 106   20 106 106        0.0       0.86            0.0           0.0         0.0          0.0       4.09%         0.0
3             fc1        56180           50  2809050.0       0.00    5,617,950.0   2,809,000.0  11460920.0        200.0      11.58%  11461120.0
4             fc2           50           10      510.0       0.00          990.0         500.0      2240.0         40.0       0.22%      2280.0
total                                        2815340.0       3.56  190,578,940.0  95,998,220.0      2240.0         40.0     100.00%  15407512.0
===============================================================================================================================================
Total params: 2,815,340
-----------------------------------------------------------------------------------------------------------------------------------------------
Total memory: 3.56MB
Total MAdd: 190.58MMAdd
Total Flops: 96.0MFlops
Total MemR+W: 14.69MB

如果您不確定如何使用特定命令，請使用-H或–HELP開關運行命令。您將看到使用信息和可以與命令一起使用的選項列表。

模塊

 from torchstat import stat
import torchvision . models as models

model = models . resnet18 ()
stat ( model , ( 3 , 224 , 224 ))

功能＆todo

注意：這些功能僅起作用nn.模塊。 TORCH.NN.功能中的模塊尚不支持。

• 拖鞋
• 參數數
• 總記憶
• MADD（FMA）
• memread
• memwrite
• 模型摘要（細節，層）
• 出口分數表
• 任意輸入形狀

對於受支持的層，請查看詳細信息。

要求

• Python 3.6+
• Pytorch 0.4.0+
• 熊貓0.23.4+
• numpy 1.14.3+

參考

感謝@sovrasov的初始版本的Flops Computation，@ceykmc的腳本骨幹。

• flops-counter.pytorch
• pytorch_model_summary
• Chainer_computational_cost
• Convnet-Burden。