LovaszSoftmax

Lovász-Softmax 손실 : 신경 네트워크에서 교차 조합 측정을 최적화하기위한 다루기 쉬운 대리자

Maxim Berman, Amal Rannen Triki, Matthew B. Blaschko

ESAT-PSI, KU LEUVEN, 벨기에.

CVPR 2018에 게시 됨. 프로젝트 페이지, ARXIV 용지, CVF 오픈 액세스 종이를 참조하십시오.

손실 계층의 Pytorch 구현 ( Pytorch 폴더)

파일 포함 :

• Lovasz_Losses.py : Jaccard Index 용 Lovász Hinge 및 Lovász-Softmax의 독립형 Pytorch 구현
• demo_binary.ipynb : Lovász 힌지와 Lovász-Sigmoid와 함께 선형 모델의 이진 훈련을 선보이는 Jupyter 노트북.
• demo_multiclass.ipynb : Lovász-Softmax를 사용한 선형 모델의 멀티 클래스 훈련을 보여주는 Jupyter 노트북 쇼

Binary lovasz_hinge 실제 값 점수를 기대합니다 (양의 점수는 전경 픽셀에 해당합니다).

멀티 클래스 lovasz_softmax 클래스 확률을 기대합니다 (최대 점수 범주가 예측 됨). 먼저 정상화되지 않은 점수에서 Softmax 레이어를 사용하십시오.

손실 계층의 텐서 플로 구현 ( Tensorflow 폴더)

파일 포함 :

• lovasz_losses_tf.py : Jaccard Index의 Lovász Hinge 및 Lovász-Softmax의 독립형 텐서 플로우 구현
• demo_binary_tf.ipynb : Lovász 힌지와 Lovász-Sigmoid와 함께 선형 모델의 이진 훈련을 선보이는 Jupyter 노트북.
• demo_multiclass_tf.ipynb : lovász-softmax와 함께 멀티 클래스 손실의 적용을 보여주는 Jupyter 노트북

경고 : 손실 값과 그라디언트는 Pytorch (노트북 참조)와 동일하게 테스트되었지만 교육 설정에서 TF 구현을 사용하지 않았습니다.

용법

간단한 원칙 증거는 데모를 참조하십시오.

FAQ

• Lovász-Softmax 손실을 어떻게 사용해야합니까?

손실은 자체적으로 최적화 될 수 있지만 최적의 최적화 초라미터 (학습 속도, 운동량)는 크로스 엔트로피에 가장 적합한 것과 다를 수 있습니다. 논문에서 논의 된 바와 같이, 데이터 세트 Miou (Pascal Voc 측정)를 최적화하는 것은 배치 크기와 클래스 수에 따라 다릅니다. 따라서 Cross-Entropy를 최적화하고 우리의 손실과 결합하거나 두 가지 손실을 결합하여 최상의 결과를 얻을 수 있습니다.

예를 들어, Alexander Rakhlin et al.의 U-Net 및 Lovasz-Softmax 손실을 사용한 위성 이미지의 작업이 어떻게 적용되는지 를보십시오. CVPR 18 Deepglobe Challenge에서 우리의 손실을 사용했습니다.

• Tensorflow의 추론은 매우 느립니다 ...

Tensorflow Master에서 컴파일하거나 (Commit Tensorflow/Tensorflow@73E3215를 포함하는 미래 분포 사용)이 문제를 해결해야합니다. 문제 #6을 참조하십시오.

소환

인용하십시오

 @inproceedings{berman2018lovasz,
  title={The Lov{'a}sz-Softmax loss: A tractable surrogate for the optimization of the intersection-over-union measure in neural networks},
  author={Berman, Maxim and Rannen Triki, Amal and Blaschko, Matthew B},
  booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition},
  pages={4413--4421},
  year={2018}
}