LovaszSoftmax

Lovász-Softmax損失：一種可進行的替代，用於優化神經網絡中的交叉點措施

Maxim Berman，Amal Rannen Triki，Matthew B. Blaschko

ESAT-PSI，KU LEUVEN，比利時。

發表在CVPR 2018中。請參閱項目頁面，Arxiv論文，有關CVF Open Access的論文。

損失層的Pytorch實現（ Pytorch文件夾）

文件包括：

• lovasz_losses.py：lovászHinge和lovász-softmax for jaccard index的獨立pytorch實現
• demo_binary.ipynb ：jupyter筆記本與LovászHinge和Lovász-Sigmoid一起展示線性模型的二進制培訓。
• Demo_multiclass.ipynb ：Jupyter筆記本與Lovász-Softmax的線性模型展示多類培訓

二進制lovasz_hinge期望實值分數（正分數對應於前景像素）。

多類lovasz_softmax期望類概率（預測最大評分類別）。首先在非標準分數上使用Softmax磁層。

損耗層的張量實現（ TensorFlow文件夾）

文件包括：

• lovasz_losses_tf.py：lovászHinge和lovász-softmax的獨立張量實現Jaccard索引
• Demo_binary_tf.ipynb ：Jupyter筆記本與LovászHinge和Lovász-Sigmoid一起展示線性模型的二進制培訓。
• demo_multiclass_tf.ipynb ：jupyter筆記本展示多類損失的應用與lovász-softmax

警告：損失值和梯度已經測試與Pytorch中的相同（請參閱筆記本電腦），但是我們尚未在培訓環境中使用TF實現。

用法

有關原理的簡單證明，請參見演示。

常問問題

• 我應該如何使用lovász-softmax損失？

可以自己優化損失，但是最佳優化超標劑（學習率，動量）可能與跨凝結的最佳損失可能不同。如本文所述，優化數據集-MIOU（Pascal VOC度量）取決於批處理大小和類的數量。因此，您可能會通過首先優化跨滲透性並與我們的損失進行填充或結合兩個損失，從而獲得最佳的結果。

例如，請參閱亞歷山大·拉克林（Alexander Rakhlin）等人的《衛星圖像》和《 lovasz-softmax損失》的工作土地覆蓋分類。在CVPR 18 Deepglobe挑戰中使用了我們的損失。

• TensorFlow中的推斷非常慢...

從TensorFlow Master（或使用包含COMMAL TENSORFLOW/TENSORFLOW@73E3215的未來分佈）中編譯，應該解決此問題；請參閱第6期。

引用

請引用

 @inproceedings{berman2018lovasz,
  title={The Lov{'a}sz-Softmax loss: A tractable surrogate for the optimization of the intersection-over-union measure in neural networks},
  author={Berman, Maxim and Rannen Triki, Amal and Blaschko, Matthew B},
  booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition},
  pages={4413--4421},
  year={2018}
}