nlp data augmentation

Aumento de datos de PNL

Papel

• Aumento de datos no supervisado
• Pregunta no supervisada Respondiendo por traducción de Cloze
• Destilar el conocimiento específico de la tarea de Bert en redes neuronales simples
• ¿Qué tan efectivo es el aumento de datos de la tarea para los transformadores previos a la aparición?
• ¡Es la hora de morfina! Combatir la discriminación lingüística con perturbaciones de inflexión

Descripción general

• Una encuesta visual del aumento de datos en la PNL
• Aumento de datos independiente de la tarea para PNL
• PDF de procesamiento de lenguaje natural robusto e imparcial

Métodos

• General
  • inserción aleatoria, deleción, palabra, oración barajando
• Reemplazo de palabras con sinónimos
• Reemplace las palabras del diccionario de la misma etiqueta
  • Ner
• Perturbaciones (carta, palabra o nivel de oración)
  • noisemix
• Modelo
  • Aumento contextual
• Traducción de espalda
  • Tricas
• Traducción de ida y vuelta
  • Parafases
  • Corpuses paralelos de baja recursos
  • 中文文本纠错任务
• Aprovechar datos externos
  • Uso de datos externos derivados de Wikipedia. Vinculación de artículos de Wikipedia con texto de entrada arbitraria. La idea es que si el texto de entrada estuviera en Wikipedia, tendría enlaces a otros artículos de Wikipedia (que están semánticamente relacionados y proporcionan información adicional).
    • Romper el texto de entrada en N-Grams
    • Verifique si cada N-Gram existe como un artículo de Wikipedia para crear un conjunto de 'enlaces candidatos'
    • poda los enlaces candidatos calculando la similitud del texto de entrada y el resumen de cada candidato
• Sistemas de conversación
  • fuente
• Comprensión de lectura
  • Reemplazo de entidad y permutación
  • Generar fuertes negativos basados ​​en etiquetas POS

Biblioteca

• Patio de texto
• nlaug