LovaszSoftmax

การสูญเสียLovász-Softmax: ตัวแทนตัวแทนที่ใช้งานได้สำหรับการเพิ่มประสิทธิภาพของมาตรการสี่แยก-สหภาพในเครือข่ายประสาท

Maxim Berman, Amal Rannen Triki, Matthew B. Blaschko

ESAT-PSI, KU Leuven, เบลเยียม

เผยแพร่ใน CVPR 2018 ดูหน้าโครงการ, กระดาษ Arxiv, กระดาษบน CVF Open Access

การใช้ Pytorch ของเลเยอร์การสูญเสีย (โฟลเดอร์ Pytorch )

รวมไฟล์:

• lovasz_losses.py : การใช้งาน Pytorch แบบสแตนด์อโลนของLovász Hinge และLovász-Softmax สำหรับดัชนี Jaccard
• demo_binary.ipynb : สมุดบันทึก Jupyter จัดแสดงการฝึกอบรมแบบไบนารีของแบบจำลองเชิงเส้นด้วยบานพับLovászและLovász-Sigmoid
• demo_multiclass.ipynb : Jupyter Notebook จัดแสดงการฝึกอบรมแบบหลายคลาสของแบบจำลองเชิงเส้นด้วยLovász-Softmax

Binary lovasz_hinge คาดว่าคะแนนที่มีค่าจริง (คะแนนบวกสอดคล้องกับพิกเซลเบื้องหน้า)

Multiclass lovasz_softmax คาดว่าจะมีความน่าจะเป็นในชั้นเรียน (คาดการณ์หมวดหมู่การให้คะแนนสูงสุด) ก่อนอื่นให้ใช้เลเยอร์ Softmax บนคะแนนที่ไม่เป็นปกติ

การใช้ Tensorflow ของเลเยอร์การสูญเสีย (โฟลเดอร์ Tensorflow )

รวมไฟล์:

• lovasz_losses_tf.py : การใช้งานแบบสแตนด์อโลน tensorflow ของLovász Hinge และLovász-Softmax สำหรับดัชนี Jaccard
• demo_binary_tf.ipynb : สมุดบันทึก Jupyter จัดแสดงการฝึกอบรมแบบไบนารีของแบบจำลองเชิงเส้นด้วยบานพับLovászและLovász-Sigmoid
• demo_multiclass_tf.ipynb : สมุดบันทึก Jupyter จัดแสดงแอปพลิเคชันของการสูญเสียหลายระดับด้วยLovász-Softmax

คำเตือน: ค่าการสูญเสียและการไล่ระดับสีได้รับการทดสอบให้เป็นเช่นเดียวกับใน pytorch (ดูสมุดบันทึก) แต่เราไม่ได้ใช้การใช้งาน TF ในการตั้งค่าการฝึกอบรม

การใช้งาน

ดูการสาธิตสำหรับการพิสูจน์หลักการง่ายๆ

คำถามที่พบบ่อย

• ฉันควรใช้การสูญเสียLovász-Softmax ได้อย่างไร?

การสูญเสียสามารถปรับให้เหมาะสมด้วยตัวเอง แต่การเพิ่มประสิทธิภาพของพารามิเตอร์ hyperparameters (อัตราการเรียนรู้, โมเมนตัม) อาจแตกต่างจากสิ่งที่ดีที่สุดสำหรับการข้ามสาย ตามที่กล่าวไว้ในกระดาษการเพิ่มประสิทธิภาพชุดข้อมูล MIOU (Pascal VOC Measure) ขึ้นอยู่กับขนาดแบทช์และจำนวนคลาส ดังนั้นคุณอาจมีผลลัพธ์ที่ดีที่สุดโดยการปรับให้เหมาะสมกับการเข้าร่วมข้ามก่อนและ finetuning กับการสูญเสียของเราหรือโดยการรวมการสูญเสียทั้งสองเข้าด้วยกัน

ดูตัวอย่างวิธี การจำแนกประเภทการทำงานของพื้นที่ทำงานจากภาพดาวเทียมด้วยการสูญเสีย U-Net และ Lovasz-Softmax โดย Alexander Rakhlin และคณะ ใช้การสูญเสียของเราในการท้าทาย CVPR 18 DeepGlobe

• การอนุมานใน tensorflow ช้ามาก ...

การรวบรวมจาก Tensorflow Master (หรือใช้การกระจายในอนาคตที่รวมถึงการกระทำ tensorflow/tensorflow@73E3215) ควรแก้ปัญหานี้ ดูปัญหา #6

การอ้างอิง

กรุณาอ้างอิง

 @inproceedings{berman2018lovasz,
  title={The Lov{'a}sz-Softmax loss: A tractable surrogate for the optimization of the intersection-over-union measure in neural networks},
  author={Berman, Maxim and Rannen Triki, Amal and Blaschko, Matthew B},
  booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition},
  pages={4413--4421},
  year={2018}
}