nlp data augmentation

NLP數據增強

紙

• 無監督的數據增強
• 無監督的問題通過披肩翻譯回答
• 將特定於任務的知識從BERT蒸餾到簡單的神經網絡
• 預驗證的變壓器的任務不合時宜的數據增加有效？
• 是嗎啡的時間！用拐點擾動打擊語言歧視

概述

• NLP中數據增強的視覺調查
• NLP的任務無關數據增強
• 強大的，公正的自然語言處理PDF

方法

• 一般的
  • 隨機插入，刪除，單詞，句子隨機改組
• 用同義詞替換單詞
• 替換同一標籤的dicitionary的單詞
  • ner
• 擾動（字母，單詞或句子級別）
  • Noisemix
• 語言模型
  • 上下文增強
• 背面翻譯
  • 機器traslation
• 往返翻譯
  • 解釋
  • 低資源平行庫
  • 中文文本糾錯任務
• 利用外部數據
  • 使用源自Wikipedia的外部數據。將Wikipedia文章與任意輸入文本聯繫起來。這個想法是，如果輸入文本在Wikipedia上，它將具有其他Wikipedia文章的鏈接（這些文章與語義相關並提供其他信息）。
    • 將輸入文本分為n-gram
    • 檢查每個n-gram是否作為Wikipedia文章存在以創建一組“候選鏈接”
    • 通過計算輸入文本的相似性和每個候選人的摘要來修剪候選鏈接
• 會話系統
  • 噴泉
• 閱讀理解
  • 實體更換和排列
  • 根據POS標籤產生強大的負面因素

圖書館

• TextAttack
• Nlaug