torchstat

Torchstat

これは、Pytorchに基づく軽量のニューラルネットワークアナライザーです。ネットワークを迅速かつ簡単に構築するように設計されており、デバッグする機能を備えています。注：このリポジトリは現在開発中です。したがって、一部のAPIが変更される場合があります。

このツールには表示できます

• ネットワークパラメーターの総数
• 浮動小数点算術の理論的量（フロップ）
• マルチプリアッドの理論的量（MADD）
• メモリの使用

インストール

TorchStatを環境にインストールする方法は2つあります。

• PIPでインストールします。

$ pip install torchstat

• このリポジトリのクローニング後にsetup.pyを使用してインストールして更新します。

$ python3 setup.py install

簡単な例

Torchstatをできるだけ早く実行したい場合は、ネットワークがスクリプトに存在する場合は、CLIツールとして呼び出すことができます。それ以外の場合は、TorchStatをモジュールとしてインポートする必要があります。

CLIツール

$ torchstat masato$ torchstat -f example.py -m Net
[MAdd]: Dropout2d is not supported !
[Flops]: Dropout2d is not supported !
[Memory]: Dropout2d is not supported !
      module name  input shape output shape     params memory(MB)           MAdd         Flops  MemRead(B)  MemWrite(B) duration[%]   MemR+W(B)
0           conv1    3 224 224   10 220 220      760.0       1.85   72,600,000.0  36,784,000.0    605152.0    1936000.0      57.49%   2541152.0
1           conv2   10 110 110   20 106 106     5020.0       0.86  112,360,000.0  56,404,720.0    504080.0     898880.0      26.62%   1402960.0
2      conv2_drop   20 106 106   20 106 106        0.0       0.86            0.0           0.0         0.0          0.0       4.09%         0.0
3             fc1        56180           50  2809050.0       0.00    5,617,950.0   2,809,000.0  11460920.0        200.0      11.58%  11461120.0
4             fc2           50           10      510.0       0.00          990.0         500.0      2240.0         40.0       0.22%      2280.0
total                                        2815340.0       3.56  190,578,940.0  95,998,220.0      2240.0         40.0     100.00%  15407512.0
===============================================================================================================================================
Total params: 2,815,340
-----------------------------------------------------------------------------------------------------------------------------------------------
Total memory: 3.56MB
Total MAdd: 190.58MMAdd
Total Flops: 96.0MFlops
Total MemR+W: 14.69MB

特定のコマンドの使用方法がわからない場合は、-Hまたは-helpスイッチを使用してコマンドを実行します。使用情報とコマンドで使用できるオプションのリストが表示されます。

モジュール

 from torchstat import stat
import torchvision . models as models

model = models . resnet18 ()
stat ( model , ( 3 , 224 , 224 ))

機能＆TODO

注：これらの機能は、nn.moduleのみに機能します。 Torch.nn.機能のモジュールはまだサポートされていません。

• フロップ
• パラメーターの数
• 総メモリ
• MADD（FMA）
• memread
• memwrite
• モデルの概要（詳細、レイヤーに関して）
• エクスポートスコアテーブル
• 任意の入力形状

サポートされているレイヤーについては、詳細を確認してください。

要件

• Python 3.6+
• Pytorch 0.4.0+
• パンダ0.23.4+
• Numpy 1.14.3+

参照

Flops Computationの初期バージョンについては、@Sovrasovに感謝します。@CeyKMCは、スクリプトのバックボーンについてです。

• flops-counter.pytorch
• pytorch_model_summary
• Chainer_computational_cost
• Convnet-Burden。