LovaszSoftmax

Lovász-softmaxの損失：ニューラルネットワークにおける交差点と統合の測定の最適化のための扱いやすい代理

マキシム・バーマン、アマル・ランネン・トリキ、マシュー・B・ブラシコ

ESAT-PSI、ベルギー、Kuルーベン。

CVPR 2018で公開されています。プロジェクトページ、ARXIVペーパー、CVFオープンアクセスに関する論文を参照してください。

損失層のPytorch実装（ Pytorchフォルダー）

含まれるファイル：

• lovasz_losses.py：JaccardインデックスのためのLovászHingeとLovász-SoftmaxのスタンドアロンPytorchの実装
• demo_binary.ipynb ：Jupyterノートブックは、LovászヒンジとLovász-sigmoidを使用して、線形モデルのバイナリトレーニングを紹介します。
• demo_multiclass.ipynb ：jupyterノートブックLovász-softmaxを使用した線形モデルのマルチクラストレーニングの紹介

バイナリlovasz_hinge 、実際の値のスコアを期待しています（正のスコアは前景ピクセルに対応します）。

Multiclass lovasz_softmax 、クラスの確率を期待しています（最大スコアリングカテゴリが予測されます）。まず、非正規化されたスコアにSoftmax層を使用します。

損失層のTensorflow実装（ Tensorflowフォルダー）

含まれるファイル：

• lovasz_losses_tf.py：JaccardインデックスのためのLovászHingeとLovász-SoftmaxのスタンドアロンTensorFlow実装
• demo_binary_tf.ipynb ：Jupyterノートブックは、線形モデルのバイナリトレーニングを紹介し、LovászヒンジとLovász-Sigmoidを使用します。
• demo_multiclass_tf.ipynb ：jupyterノートブックlovász-softmaxでマルチクラス損失の適用を紹介する

警告：損失値と勾配は、Pytorchと同じであるとテストされています（ノートを参照）が、トレーニング設定でTF実装を使用していません。

使用法

原則の単純な証明については、デモを参照してください。

よくある質問

• Lovász-Softmaxの損失をどのように使用すればよいですか？

損失は単独で最適化できますが、最適な最適化ハイパーパラメーター（学習率、勢い）は、エントロピーに最適なものとは異なる場合があります。論文で説明したように、データセット-MIOU（Pascal VOCメジャー）の最適化は、クラスのバッチサイズと数に依存します。したがって、最初にクロスエントロピーで最適化し、損失との微調整、または2つの損失を組み合わせることにより、最良の結果が得られる可能性があります。

たとえば、Alexander Rakhlin et al。によるu-netおよびlovasz-softmaxの損失を伴う衛星画像からの作業土地被覆分類がどのように分類されているかを参照してください。 CVPR 18 Deepglobe Challengeで損失を使用しました。

• Tensorflowの推論は非常に遅いです...

Tensorflow Masterからのコンパイル（または、Tensorflow/Tensorflow@73e3215を含む将来の分布を使用）は、この問題を解決する必要があります。問題＃6を参照してください。

引用

引用してください

 @inproceedings{berman2018lovasz,
  title={The Lov{'a}sz-Softmax loss: A tractable surrogate for the optimization of the intersection-over-union measure in neural networks},
  author={Berman, Maxim and Rannen Triki, Amal and Blaschko, Matthew B},
  booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition},
  pages={4413--4421},
  year={2018}
}