หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

Siamese-Lstm

การใช้โมเดล MALSTM (Siamese Networks + LSTM กับระยะทางแมนฮัตตัน) เพื่อตรวจจับความคล้ายคลึงกันทางความหมายระหว่างคู่คำถาม ชุดข้อมูลการฝึกอบรมที่ใช้เป็นชุดย่อยของชุดข้อมูลคู่คำถาม quora ดั้งเดิม (ใช้คู่ 363K)

มันคือการใช้งาน Keras ตามบทความต้นฉบับ (PDF) และบทความขนาดกลางที่ยอดเยี่ยม

ข้อกำหนดเบื้องต้น

  • กระดาษบทความ
    • สถาปัตยกรรมกำเริบของสยามสำหรับการเรียนรู้ประโยคที่คล้ายคลึงกัน
    • วิธีทำนายคู่คำถาม Quora โดยใช้ Siamese Manhattan LSTM
  • ข้อมูล
    • googlenews-vectors-negative300.bin.gz
    • ชุดข้อมูล Quora ของ Kaggle's Quora
  • การอ้างอิง
    • Aditya1503/siamese-lstm ของผู้แต่งดั้งเดิม GitHub
    • Dhwajraj/การใช้งานแบบ Tensorflow ที่มีความคล้ายคลึงกัน

test.csv ของ Kaggle CSV มีขนาดใหญ่เกินไปดังนั้นฉันจึงแยกคำถาม 20 ข้อเท่านั้นและสร้างไฟล์ที่เรียกว่า test-20.csv และใช้ใน predict.py

คุณควรนำไฟล์ข้อมูลทั้งหมดไปที่ ./data data ไดเรกทอรี

วิธีการวิ่ง

การฝึกอบรม 

 $ python3 train.py

การทำนาย

มันใช้ไฟล์ test-20.csv ที่กล่าวถึงข้างต้น 

 $ python3 predict.py

ผลลัพธ์

ฉันได้ลองใช้พารามิเตอร์ต่าง ๆ เช่นจำนวนสถานะที่ซ่อนอยู่ของเซลล์ LSTM, ฟังก์ชั่นการเปิดใช้งานของเซลล์ LSTM และจำนวนยุคซ้ำ ฉันใช้ Nvidia Tesla P40 GPU x 2 สำหรับการฝึกอบรมและใช้ข้อมูล 10% เป็นชุดการตรวจสอบ (ขนาดแบทช์ = 1024*2) เป็นผลให้ฉันมีความแม่นยำประมาณ 82.29% หลังจาก 50 ยุคประมาณ 10 นาทีต่อมา 

 Epoch 50/50
363861/363861 [==============================] - 12s 33us/step - loss: 0.1172 - acc: 0.8486 - val_loss: 0.1315 - val_acc: 0.8229
Training time finished.
50 epochs in       601.24
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด