rc cnn dailymail

CNN/Tugas Pemahaman Bacaan Surat Harian

Kode untuk kertas:

Pemeriksaan menyeluruh atas tugas pemahaman CNN/Daily Mail Bacaan.

Dependensi

• Python 2.7
• Theano> = 0.7
• Lasagna 0.2.dev1

Kumpulan data

• Dua dataset RC yang diproses:

  • CNN: http://cs.stanford.edu/~danqi/data/cnn.tar.gz (546m)
  • Daily Mail: http://cs.stanford.edu/~danqi/data/dailymail.tar.gz (1.4G)

  Dataset asli dapat diunduh dari https://github.com/deepmind/rc-data atau http://cs.nyu.edu/~kcho/dmqa/. Yang diproses hanyalah gabungan dari semua instance data dan menyimpan dokumen, tanya jawab dan menjawab hanya untuk input kami.

• Word Embeddings:

  • Glove.6b.zip: http://nlp.stanford.edu/data/glove.6b.zip

Penggunaan

Pelatihan

    THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32
    python main.py --train_file /u/nlp/data/deepmind-qa/cnn/train.txt
                   --dev_file /u/nlp/data/deepmind-qa/cnn/dev.txt
                   --embedding_file /u/nlp/data/deepmind-qa/word-embeddings/glove.6B.100d.txt

Hyper-parameter

• relabeling : Default benar.
• hidden_size : Default adalah 128.
• bidir : Default benar.
• num_layers : default adalah 1.
• rnn_type : Default adalah "gru".
• att_func : default adalah "bilinear".
• batch_size : Default adalah 32.
• num_epoches : Default adalah 100.
• eval_iter : Default adalah 100.
• dropout_rate : Default adalah 0,2.
• optimizer : Default adalah "SGD".
• learning_rate : default adalah 0,1.
• grad_clipping : Default adalah 10.

Referensi

    @inproceedings{chen2016thorough,
        title={A Thorough Examination of the CNN/Daily Mail Reading Comprehension Task},
        author={Chen, Danqi and Bolton, Jason and Manning, Christopher D.},
        booktitle={Association for Computational Linguistics (ACL)},
        year={2016}
    }

Lisensi

Mit