pointer_summarizer

Pytorch Implémentation de Get To the Point: Résumé avec les réseaux de générateur de pointeur

1. Train avec la génération de pointeurs et la perte de couverture activée
2. La formation avec la génération de pointeurs activée
3. Comment exécuter une formation
4. Documents utilisant ce code

Train avec la génération de pointeurs et la perte de couverture activée

Après l'entraînement pour 100 000 itérations avec une perte de couverture activée (Taille du lot 8)

 ROUGE-1:
rouge_1_f_score: 0.3907 with confidence interval (0.3885, 0.3928)
rouge_1_recall: 0.4434 with confidence interval (0.4410, 0.4460)
rouge_1_precision: 0.3698 with confidence interval (0.3672, 0.3721)

ROUGE-2:
rouge_2_f_score: 0.1697 with confidence interval (0.1674, 0.1720)
rouge_2_recall: 0.1920 with confidence interval (0.1894, 0.1945)
rouge_2_precision: 0.1614 with confidence interval (0.1590, 0.1636)

ROUGE-l:
rouge_l_f_score: 0.3587 with confidence interval (0.3565, 0.3608)
rouge_l_recall: 0.4067 with confidence interval (0.4042, 0.4092)
rouge_l_precision: 0.3397 with confidence interval (0.3371, 0.3420)

La formation avec la génération de pointeurs activée

Après l'entraînement pour 500 000 itérations (Taille du lot 8)

 ROUGE-1:
rouge_1_f_score: 0.3500 with confidence interval (0.3477, 0.3523)
rouge_1_recall: 0.3718 with confidence interval (0.3693, 0.3745)
rouge_1_precision: 0.3529 with confidence interval (0.3501, 0.3555)

ROUGE-2:
rouge_2_f_score: 0.1486 with confidence interval (0.1465, 0.1508)
rouge_2_recall: 0.1573 with confidence interval (0.1551, 0.1597)
rouge_2_precision: 0.1506 with confidence interval (0.1483, 0.1529)

ROUGE-l:
rouge_l_f_score: 0.3202 with confidence interval (0.3179, 0.3225)
rouge_l_recall: 0.3399 with confidence interval (0.3374, 0.3426)
rouge_l_precision: 0.3231 with confidence interval (0.3205, 0.3256)

Comment exécuter la formation:

1. Suivez les instructions de génération de données à partir de https://github.com/abisee/cnn-dailymail
2. Exécuter start_train.sh, vous devrez peut-être modifier un chemin et des paramètres dans data_util / config.py
3. Pour la formation, run start_train.sh, pour le décodage run start_decode.sh, et pour évaluer run run_eval.sh

Note:

• En mode Decode, le lot de recherche de faisceau ne devrait avoir qu'un seul exemple reproduit à la taille du lots https://github.com/atunkum/pointer_summarizer/blob/master/training_ptr_gen/decode.py#l109 https://github.com/atulkum/pointer_sumcizer/blob/master/data_utul/batcher.

• Il est testé sur Pytorch 0.4 avec Python 2.7

• Vous devez configurer Pyrouge pour obtenir le score Rouge

Documents utilisant ce code:

1. Synthèse du programme automatique de programmes longs avec un savant collecteur de déchets NeuroIPS 2018 https://github.com/amitz25/pccoder
2. Modification automatique de phrase guidée AAAI 2020 https://github.com/darsh10/split_encoder_pointer_summarzer
3. Resurrection sous-modularité dans le résumé abstrait neural
4. Structsum: Résumé via des représentations structurées EACL 2021
5. Réseau de pointeur de concept pour le résumé abstractif EMNLP'2019 https://github.com/wprojectsn/codes
6. Version à palette
7. Modèle abstrait basé sur VAE-PGN en architecture multi-étages pour le résumé de texte INLG2019
8. Clickbait? Génération du titre sensationnel avec apprentissage de renforcement automatique à réglage automatique EMNLP'2019 https://github.com/hltchkust/sensational_headline
9. Résumé du document parlé abstractif Utilisation du modèle hiérarchique avec optimisation de la diversité d'attention multi-étapes Inteletepech 2020
10. NUTRIBULLETS HYBRIDE: Summarisation de la santé à plusieurs documents NAACL 2021
11. Un corpus de résumés scientifiques très courts Conll 2020
12. Vers la fidélité dans la génération de table à texte ouverte à partir d'une vue centrée sur l'entité AAAI 2021
13. CDEVALSUMM: Une étude empirique de l'évaluation des dataset croisés pour les résultats des systèmes de résumé neuronal de l'EMNLP2020
14. Une étude sur SEQ2SEQ pour la compression des phrases dans le Paclic 2020 vietnamien
15. D'autres rôles comptent! Amélioration du résumé du dialogue axé sur le rôle via les interactions des rôles ACL 2022