torchstat

Torchstat

这是基于Pytorch的轻量级神经网络分析仪。它旨在使构建网络快速，轻松，并具有调试功能。注意：此存储库目前正在开发中。因此，可能会更改一些API。

该工具可以显示

• 网络参数的总数
• 理论上的浮点算术（拖放）
• 理论上的多重添加量（MADD）
• 内存使用

安装

有两种将Torchstat安装到您的环境中的方法。

• 通过PIP安装。

$ pip install torchstat

• 克隆此存储库后，请使用setup.py安装和更新。

$ python3 setup.py install

一个简单的例子

如果您想尽快运行火炬，则可以将其称为CLI工具，如果您的网络存在于脚本中。否则，您需要将Torchstat导入一个模块。

CLI工具

$ torchstat masato$ torchstat -f example.py -m Net
[MAdd]: Dropout2d is not supported !
[Flops]: Dropout2d is not supported !
[Memory]: Dropout2d is not supported !
      module name  input shape output shape     params memory(MB)           MAdd         Flops  MemRead(B)  MemWrite(B) duration[%]   MemR+W(B)
0           conv1    3 224 224   10 220 220      760.0       1.85   72,600,000.0  36,784,000.0    605152.0    1936000.0      57.49%   2541152.0
1           conv2   10 110 110   20 106 106     5020.0       0.86  112,360,000.0  56,404,720.0    504080.0     898880.0      26.62%   1402960.0
2      conv2_drop   20 106 106   20 106 106        0.0       0.86            0.0           0.0         0.0          0.0       4.09%         0.0
3             fc1        56180           50  2809050.0       0.00    5,617,950.0   2,809,000.0  11460920.0        200.0      11.58%  11461120.0
4             fc2           50           10      510.0       0.00          990.0         500.0      2240.0         40.0       0.22%      2280.0
total                                        2815340.0       3.56  190,578,940.0  95,998,220.0      2240.0         40.0     100.00%  15407512.0
===============================================================================================================================================
Total params: 2,815,340
-----------------------------------------------------------------------------------------------------------------------------------------------
Total memory: 3.56MB
Total MAdd: 190.58MMAdd
Total Flops: 96.0MFlops
Total MemR+W: 14.69MB

如果您不确定如何使用特定命令，请使用-H或–HELP开关运行命令。您将看到使用信息和可以与命令一起使用的选项列表。

模块

 from torchstat import stat
import torchvision . models as models

model = models . resnet18 ()
stat ( model , ( 3 , 224 , 224 ))

功能＆todo

注意：这些功能仅起作用nn.模块。 TORCH.NN.功能中的模块尚不支持。

• 拖鞋
• 参数数
• 总记忆
• MADD（FMA）
• memread
• memwrite
• 模型摘要（细节，层）
• 出口分数表
• 任意输入形状

对于受支持的层，请查看详细信息。

要求

• Python 3.6+
• Pytorch 0.4.0+
• 熊猫0.23.4+
• numpy 1.14.3+

参考

感谢@sovrasov的初始版本的Flops Computation，@ceykmc的脚本骨干。

• flops-counter.pytorch
• pytorch_model_summary
• Chainer_computational_cost
• Convnet-Burden。