nlp data augmentation

NLP 데이터 증강

종이

• 감독되지 않은 데이터 확대
• Cloze Translation의 감독되지 않은 질문 답변
• Bert에서 간단한 신경망으로의 작업 별 지식을 증류합니다
• 사전 배치 된 변압기에 대한 작업 공급 데이터 확대는 얼마나 효과적입니까?
• 모르핀의 시간입니다! 언어 차별을 변곡 섭동으로 퇴치합니다

개요

• NLP의 데이터 확대에 대한 시각적 조사
• NLP의 작업 독립적 데이터 증강
• 강력하고 편견이없는 자연어 처리 PDF

행동 양식

• 일반적인
  • 임의의 삽입, 삭제, 단어, 문장 셔플 링
• 단어를 동의어로 대체합니다
• 동일한 레이블의 DICITIONARY에서 단어를 교체하십시오
  • 네르
• 섭동 (편지, 단어 또는 문장 수준)
  • Noisemix
• 언어 모델
  • 맥락 증강
• 뒤 번역
  • 기계 트라 슬레이션
• 왕복 번역
  • 역설
  • 저주적 병렬 코퍼스
  • 中文文本纠错任务
• 외부 데이터를 활용합니다
  • Wikipedia에서 파생 된 외부 데이터 사용. Wikipedia 기사를 임의의 입력 텍스트에 연결합니다. 아이디어는 입력 텍스트가 Wikipedia에있는 경우 다른 Wikipedia 기사 (의미 적으로 관련되어 있고 추가 정보를 제공)에 대한 링크가 있다는 것입니다.
    • 입력 텍스트를 N- 그램으로 나눕니다
    • 각 N- 그램이 Wikipedia 기사로 존재하는지 확인하여 '후보 링크'세트를 만듭니다.
    • 입력 텍스트의 유사성과 각 후보자의 초록을 계산하여 후보 링크를 정리하십시오.
• 대화 시스템
  • 분수
• 독해력
  • 엔티티 교체 및 순열
  • POS 태그를 기반으로 강한 네거티브를 생성합니다

도서관

• TextATCACK
• nlaug