rc cnn dailymail

Tâche de compréhension de la lecture CNN / Daily Mail

Code du papier:

Un examen approfondi de la tâche de compréhension de la lecture CNN / Daily Mail.

Dépendances

• Python 2.7
• Theano> = 0,7
• Lasagne 0.2.dev1

Ensembles de données

• Les deux ensembles de données RC traités:

  • CNN: http://cs.stanford.edu/~danqi/data/cnn.tar.gz (546m)
  • Daily Mail: http://cs.stanford.edu/~danqi/data/dailymail.tar.gz (1.4g)

  Les ensembles de données originaux peuvent être téléchargés à partir de https://github.com/deepmind/rc-data ou http://cs.nyu.edu/~kcho/dmqa/. Nos traités ne sont que la concaténation simplement de toutes les instances de données et la conservation du document, la question et la réponse uniquement pour nos entrées.

• Incorporation de mots:

  • gant.6b.zip: http://nlp.stanford.edu/data/glove.6b.zip

Usage

Entraînement

    THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32
    python main.py --train_file /u/nlp/data/deepmind-qa/cnn/train.txt
                   --dev_file /u/nlp/data/deepmind-qa/cnn/dev.txt
                   --embedding_file /u/nlp/data/deepmind-qa/word-embeddings/glove.6B.100d.txt

Hyper-paramètres

• relabeling : la valeur par défaut est vraie.
• hidden_size : la valeur par défaut est 128.
• bidir : la valeur par défaut est vraie.
• num_layers : la valeur par défaut est 1.
• rnn_type : la valeur par défaut est "Gru".
• att_func : la valeur par défaut est "bilinéaire".
• batch_size : la valeur par défaut est 32.
• num_epoches : La valeur par défaut est 100.
• eval_iter : la valeur par défaut est de 100.
• dropout_rate : la valeur par défaut est 0,2.
• optimizer : la valeur par défaut est "SGD".
• learning_rate : la valeur par défaut est de 0,1.
• grad_clipping : la valeur par défaut est 10.

Référence

    @inproceedings{chen2016thorough,
        title={A Thorough Examination of the CNN/Daily Mail Reading Comprehension Task},
        author={Chen, Danqi and Bolton, Jason and Manning, Christopher D.},
        booktitle={Association for Computational Linguistics (ACL)},
        year={2016}
    }

Licence

Mit