pointer_summarizer

pytorch實現to to to to the Point：用指針生成網絡匯總

1. 啟用指針生成和覆蓋損失的訓練
2. 啟用了指針生成的培訓
3. 如何進行訓練
4. 使用此代碼的論文

啟用指針生成和覆蓋損失的訓練

在訓練100k迭代並啟用了覆蓋範圍損失之後（批次8）

 ROUGE-1:
rouge_1_f_score: 0.3907 with confidence interval (0.3885, 0.3928)
rouge_1_recall: 0.4434 with confidence interval (0.4410, 0.4460)
rouge_1_precision: 0.3698 with confidence interval (0.3672, 0.3721)

ROUGE-2:
rouge_2_f_score: 0.1697 with confidence interval (0.1674, 0.1720)
rouge_2_recall: 0.1920 with confidence interval (0.1894, 0.1945)
rouge_2_precision: 0.1614 with confidence interval (0.1590, 0.1636)

ROUGE-l:
rouge_l_f_score: 0.3587 with confidence interval (0.3565, 0.3608)
rouge_l_recall: 0.4067 with confidence interval (0.4042, 0.4092)
rouge_l_precision: 0.3397 with confidence interval (0.3371, 0.3420)

啟用了指針生成的培訓

訓練500k迭代（批次8）之後

 ROUGE-1:
rouge_1_f_score: 0.3500 with confidence interval (0.3477, 0.3523)
rouge_1_recall: 0.3718 with confidence interval (0.3693, 0.3745)
rouge_1_precision: 0.3529 with confidence interval (0.3501, 0.3555)

ROUGE-2:
rouge_2_f_score: 0.1486 with confidence interval (0.1465, 0.1508)
rouge_2_recall: 0.1573 with confidence interval (0.1551, 0.1597)
rouge_2_precision: 0.1506 with confidence interval (0.1483, 0.1529)

ROUGE-l:
rouge_l_f_score: 0.3202 with confidence interval (0.3179, 0.3225)
rouge_l_recall: 0.3399 with confidence interval (0.3374, 0.3426)
rouge_l_precision: 0.3231 with confidence interval (0.3205, 0.3256)

如何進行培訓：

1. 從https://github.com/abisee/cnn-dailymail遵循數據生成指令
2. 運行start_train.sh，您可能需要在data_util/config.py中更改一些路徑和參數
3. 用於訓練運行start_train.sh，用於解碼運行start_decode.sh，用於評估Run_eval.sh

筆記：

• 在解碼模式下，光束搜索批次應只有一個示例複製到大小https://github.com/atulkum/pointer_summarizer/blob/blob/master/master/master/training_ptr_ptr_gen/decode.py.py#l109

• 它在Pytorch 0.4上測試了Python 2.7

• 您需要設置pyrouge才能獲得胭脂分數

使用此代碼的論文：

1. 與學習的垃圾收集器Neuroips 2018 https://github.com/amitz25/pccoder一起自動程序合成長程序。
2. 自動事實引導的句子修改AAAI 2020 https://github.com/darsh10/split_encoder_pointer_summarizer
3. 神經抽象摘要中的突發性複活
4. 結構：通過結構化表示EACL 2021進行匯總
5. 抽象性摘要的概念指針網絡EMNLP'2019 https://github.com/wprojectsn/codes
6. PaddlePaddle版本
7. 基於VAE-PGN的多階段架構中基於文本摘要的抽像模型inlg2019
8. 點擊餌？通過自動調節的增強學習EMNLP'2019 https://github.com/hltchkust/sensational_headline進行轟動的標題生成
9. 抽象性口語文檔摘要使用層次模型具有多階段注意力多樣性優化Interspeech 2020
10. Nutribullets Hybrid：多文件健康摘要NAACL 2021
11. 一個非常短的科學摘要Conll 2020的語料庫
12. 從以實體為中心的觀點AAAI 2021中的開放型域到文本產生忠誠
13. CDEVALSUMM：對EMNLP2020神經摘要係統發現的跨數據庫評估的實證研究
14. 一項關於越南平原2020年句子壓縮的SEQ2SEQ的研究
15. 其他角色很重要！通過角色互動增強面向角色的對話摘要ACL 2022