rc cnn dailymail

Tarefa de compreensão de leitura do CNN/Daily Mail

Código para o artigo:

Um exame minucioso da tarefa de compreensão de leitura da CNN/Daily Mail.

Dependências

• Python 2.7
• Theano> = 0,7
• Lasanha 0.2.Dev1

Conjuntos de dados

• Os dois conjuntos de dados RC processados:

  • CNN: http://cs.stanford.edu/~danqi/data/cnn.tar.gz (546m)
  • Daily Mail: http://cs.stanford.edu/~danqi/data/dailymail.tar.gz (1.4g)

  Os conjuntos de dados originais podem ser baixados em https://github.com/deepmind/rc-data ou http://cs.nyu.edu/~kcho/dmqa/. Nossos processados ​​são simplesmente concatenação de todas as instâncias de dados e mantendo documentos, perguntas e respostas apenas para nossos insumos.

• Incorporamentos de palavras:

  • Glove.6b.zip: http://nlp.stanford.edu/data/glove.6b.zip

Uso

Treinamento

    THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32
    python main.py --train_file /u/nlp/data/deepmind-qa/cnn/train.txt
                   --dev_file /u/nlp/data/deepmind-qa/cnn/dev.txt
                   --embedding_file /u/nlp/data/deepmind-qa/word-embeddings/glove.6B.100d.txt

Hiper-parâmetros

• relabeling : o padrão é verdadeiro.
• hidden_size : o padrão é 128.
• bidir : o padrão é verdadeiro.
• num_layers : o padrão é 1.
• rnn_type : o padrão é "GRU".
• att_func : o padrão é "bilinear".
• batch_size : o padrão é 32.
• num_epoches : o padrão é 100.
• eval_iter : o padrão é 100.
• dropout_rate : o padrão é 0,2.
• optimizer : o padrão é "SGD".
• learning_rate : o padrão é 0,1.
• grad_clipping : o padrão é 10.

Referência

    @inproceedings{chen2016thorough,
        title={A Thorough Examination of the CNN/Daily Mail Reading Comprehension Task},
        author={Chen, Danqi and Bolton, Jason and Manning, Christopher D.},
        booktitle={Association for Computational Linguistics (ACL)},
        year={2016}
    }

Licença

Mit