pointer_summarizer

PYTORCH 구현 Get to the Point : 포인터 제너레이터 네트워크를 사용한 요약

1. 포인터 생성 및 커버리지 손실이 활성화 된 훈련
2. 포인터 생성을 통한 교육
3. 훈련을 실행하는 방법
4. 이 코드를 사용하는 논문

포인터 생성 및 커버리지 손실이 활성화 된 훈련

커버리지 손실 활성화로 100k 반복을위한 교육 후 (배치 크기 8)

 ROUGE-1:
rouge_1_f_score: 0.3907 with confidence interval (0.3885, 0.3928)
rouge_1_recall: 0.4434 with confidence interval (0.4410, 0.4460)
rouge_1_precision: 0.3698 with confidence interval (0.3672, 0.3721)

ROUGE-2:
rouge_2_f_score: 0.1697 with confidence interval (0.1674, 0.1720)
rouge_2_recall: 0.1920 with confidence interval (0.1894, 0.1945)
rouge_2_precision: 0.1614 with confidence interval (0.1590, 0.1636)

ROUGE-l:
rouge_l_f_score: 0.3587 with confidence interval (0.3565, 0.3608)
rouge_l_recall: 0.4067 with confidence interval (0.4042, 0.4092)
rouge_l_precision: 0.3397 with confidence interval (0.3371, 0.3420)

포인터 생성을 통한 교육

500K 반복 훈련 후 (배치 크기 8)

 ROUGE-1:
rouge_1_f_score: 0.3500 with confidence interval (0.3477, 0.3523)
rouge_1_recall: 0.3718 with confidence interval (0.3693, 0.3745)
rouge_1_precision: 0.3529 with confidence interval (0.3501, 0.3555)

ROUGE-2:
rouge_2_f_score: 0.1486 with confidence interval (0.1465, 0.1508)
rouge_2_recall: 0.1573 with confidence interval (0.1551, 0.1597)
rouge_2_precision: 0.1506 with confidence interval (0.1483, 0.1529)

ROUGE-l:
rouge_l_f_score: 0.3202 with confidence interval (0.3179, 0.3225)
rouge_l_recall: 0.3399 with confidence interval (0.3374, 0.3426)
rouge_l_precision: 0.3231 with confidence interval (0.3205, 0.3256)

훈련 실행 방법 :

1. https://github.com/abisee/cnn-dailymail의 데이터 생성 명령어를 따르십시오
2. start_train.sh를 실행하면 data_util/config.py에서 경로와 매개 변수를 변경해야 할 수도 있습니다.
3. 교육 실행 start_train.sh, decoding run start_decode.sh, run run_eval.sh 평가를 위해

메모:

• 디코드 모드에서 빔 검색 배치는 배치 크기 https://github.com/atulkum/pointer_summarizer/blob/mas https://github.com/atulkum/pointer_summarizer/blob/master/data_util/batcher.py#l226

• Python 2.7로 Pytorch 0.4에서 테스트됩니다

• Rouge 점수를 얻으려면 Pyrouge를 설정해야합니다.

이 코드를 사용하는 논문 :

1. 배운 쓰레기 수집가 신경 IPS 2018 https://github.com/amitz25/pccoder와 함께 긴 프로그램의 자동 프로그램 합성
2. 자동 사실 유도 문장 수정 AAAI 2020 https://github.com/darsh10/split_encoder_pointer_summarizer
3. 신경 추상적 요약에서 하위 모듈성을 부활시킨다
4. structsum : 구조화 된 표현을 통한 요약 EACL 2021
5. 추상적 요약을위한 개념 포인터 네트워크 EMNLP'2019 https://github.com/wprojectsn/codes
6. 패들 라드 버전
7. 텍스트 요약을위한 다단계 아키텍처의 VAE-PGN 기반 추상 모델 INLG2019
8. Clickbait? 자동 조정 된 강화 학습 EMNLP'2019 https://github.com/hltchkust/sensational_headline을 사용한 감각적 인 헤드 라인 생성
9. 다단계주의 다양성 최적화 Interspeech 2020을 가진 계층 적 모델을 사용한 추상적 구 음질 요약
10. Nutribullets Hybrid : 다중 문서 건강 요약 NAACL 2021
11. 매우 짧은 과학적 요약의 코퍼스 Conll 2020
12. 엔티티 중심 관점에서 열린 도메인 테이블-텍스트 생성에 대한 신실함 AAAI 2021
13. CDEVALSUMM : EMNLP2020의 신경 요약 시스템 결과를 위한 교차 다타타 세트 평가에 대한 경험적 연구
14. 베트남어 paclic 2020 의 문장 압축에 대한 seq2seq에 관한 연구
15. 다른 역할이 중요합니다! 역할 상호 작용 ACL 2022를 통한 역할 지향 대화 요약 강화