LovaszSoftmax

Lovász-Softmax损失：一种可进行的替代，用于优化神经网络中的交叉点措施

Maxim Berman，Amal Rannen Triki，Matthew B. Blaschko

ESAT-PSI，KU LEUVEN，比利时。

发表在CVPR 2018中。请参阅项目页面，Arxiv论文，有关CVF Open Access的论文。

损失层的Pytorch实现（ Pytorch文件夹）

文件包括：

• lovasz_losses.py：lovászHinge和lovász-softmax for jaccard index的独立pytorch实现
• demo_binary.ipynb ：jupyter笔记本与LovászHinge和Lovász-Sigmoid一起展示线性模型的二进制培训。
• Demo_multiclass.ipynb ：Jupyter笔记本与Lovász-Softmax的线性模型展示多类培训

二进制lovasz_hinge期望实值分数（正分数对应于前景像素）。

多类lovasz_softmax期望类概率（预测最大评分类别）。首先在非标准分数上使用Softmax磁层。

损耗层的张量实现（ TensorFlow文件夹）

文件包括：

• lovasz_losses_tf.py：lovászHinge和lovász-softmax的独立张量实现Jaccard索引
• Demo_binary_tf.ipynb ：Jupyter笔记本与LovászHinge和Lovász-Sigmoid一起展示线性模型的二进制培训。
• demo_multiclass_tf.ipynb ：jupyter笔记本展示多类损失的应用与lovász-softmax

警告：损失值和梯度已经测试与Pytorch中的相同（请参阅笔记本电脑），但是我们尚未在培训环境中使用TF实现。

用法

有关原理的简单证明，请参见演示。

常问问题

• 我应该如何使用lovász-softmax损失？

可以自己优化损失，但是最佳优化超标剂（学习率，动量）可能与跨凝结的最佳损失可能不同。如本文所述，优化数据集-MIOU（Pascal VOC度量）取决于批处理大小和类的数量。因此，您可能会通过首先优化跨渗透性并与我们的损失进行填充或结合两个损失，从而获得最佳的结果。

例如，请参阅亚历山大·拉克林（Alexander Rakhlin）等人的《卫星图像》和《 lovasz-softmax损失》的工作土地覆盖分类。在CVPR 18 Deepglobe挑战中使用了我们的损失。

• TensorFlow中的推断非常慢...

从TensorFlow Master（或使用包含COMMAL TENSORFLOW/TENSORFLOW@73E3215的未来分布）中编译，应该解决此问题；请参阅第6期。

引用

请引用

 @inproceedings{berman2018lovasz,
  title={The Lov{'a}sz-Softmax loss: A tractable surrogate for the optimization of the intersection-over-union measure in neural networks},
  author={Berman, Maxim and Rannen Triki, Amal and Blaschko, Matthew B},
  booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition},
  pages={4413--4421},
  year={2018}
}