rc cnn dailymail

งาน CNN/Daily Mail Reading Complension

รหัสสำหรับกระดาษ:

การตรวจสอบอย่างละเอียดของงาน CNN/Daily Mail Reading Seckension

การพึ่งพาอาศัยกัน

• Python 2.7
• Theano> = 0.7
• Lasagne 0.2.dev1

ชุดข้อมูล

• ชุดข้อมูล RC ที่ประมวลผลสองชุด:

  • CNN: http://cs.stanford.edu/~danqi/data/cnn.tar.gz (546m)
  • Daily Mail: http://cs.stanford.edu/~danqi/data/dailymail.tar.gz (1.4g)

  ชุดข้อมูลต้นฉบับสามารถดาวน์โหลดได้จาก https://github.com/deepmind/rc-data หรือ http://cs.nyu.edu/~kcho/dmqa/ สิ่งที่ประมวลผลของเราเป็นเพียงการต่ออินสแตนซ์ข้อมูลทั้งหมดและเก็บเอกสารคำถามและคำตอบสำหรับอินพุตของเราเท่านั้น

• Word Embeddings:

  • glove.6b.zip: http://nlp.stanford.edu/data/glove.6b.zip

การใช้งาน

การฝึกอบรม

    THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32
    python main.py --train_file /u/nlp/data/deepmind-qa/cnn/train.txt
                   --dev_file /u/nlp/data/deepmind-qa/cnn/dev.txt
                   --embedding_file /u/nlp/data/deepmind-qa/word-embeddings/glove.6B.100d.txt

พารามิเตอร์ไฮเปอร์

• relabeling : ค่าเริ่มต้นเป็นจริง
• hidden_size : ค่าเริ่มต้นคือ 128
• bidir : ค่าเริ่มต้นเป็นจริง
• num_layers : ค่าเริ่มต้นคือ 1
• rnn_type : ค่าเริ่มต้นคือ "gru"
• att_func : ค่าเริ่มต้นคือ "bilinear"
• batch_size : ค่าเริ่มต้นคือ 32
• num_epoches : ค่าเริ่มต้นคือ 100
• eval_iter : ค่าเริ่มต้นคือ 100
• dropout_rate : ค่าเริ่มต้นคือ 0.2
• optimizer : ค่าเริ่มต้นคือ "SGD"
• learning_rate : ค่าเริ่มต้นคือ 0.1
• grad_clipping : ค่าเริ่มต้นคือ 10

อ้างอิง

    @inproceedings{chen2016thorough,
        title={A Thorough Examination of the CNN/Daily Mail Reading Comprehension Task},
        author={Chen, Danqi and Bolton, Jason and Manning, Christopher D.},
        booktitle={Association for Computational Linguistics (ACL)},
        year={2016}
    }

ใบอนุญาต

มิกซ์