nlp data augmentation

Augmentaion Data NLP

Kertas

• Augmentasi data tanpa pengawasan
• Pertanyaan Tanpa Diawasi Menjawab dengan Terjemahan Cloze
• Distilling Task-spesifik pengetahuan dari Bert ke jaringan saraf sederhana
• Seberapa efektif augmentasi data-agnostik tugas untuk transformator pretrained?
• Ini saatnya morphin! Memerangi diskriminasi linguistik dengan gangguan infleksional

Ringkasan

• Survei visual augmentasi data di NLP
• Augmentasi data-independen tugas untuk NLP
• PDF pemrosesan bahasa alami yang kuat dan tidak memihak

Metode

• Umum
  • penyisipan acak, penghapusan, kata, pengocok kalimat
• Mengganti kata dengan sinonim
• Ganti kata -kata dari dikutasi label yang sama
  • Ner
• Gangguan (surat, kata, atau tingkat kalimat)
  • Noisemix
• Model Bahasa
  • Augmentasi kontekstual
• Terjemahan kembali
  • Traslasi mesin
• Terjemahan pulang-pergi
  • Paraphasing
  • Korpus paralel rendah sumber daya
  • 中文文本纠错任务
• Memanfaatkan data eksternal
  • Menggunakan data eksternal yang berasal dari Wikipedia. Menghubungkan artikel Wikipedia ke teks input sewenang -wenang. Idenya adalah bahwa jika teks input ada di Wikipedia, itu akan memiliki tautan ke artikel Wikipedia lainnya (yang terkait semantik dan memberikan info tambahan).
    • memecah teks input menjadi n-gram
    • Periksa apakah masing-masing n-gram ada sebagai artikel Wikipedia untuk membuat serangkaian 'tautan kandidat'
    • Prune Kandidat tautan dengan menghitung kesamaan teks input dan abstrak dari masing -masing kandidat
• Sistem Percakapan
  • air mancur
• Pemahaman membaca
  • Penggantian dan Permutasi Entitas
  • Menghasilkan negatif yang kuat berdasarkan tag POS

Perpustakaan

• TextAttack
• nlaug