ABSA PyTorch

Holgazán

Análisis de sentimientos basado en el aspecto, implementaciones de Pytorch.

基于方面的情感分析 使用 使用 pytorch 实现。

Requisito

• pytorch> = 0.4.0
• numpy> = 1.13.3
• sklearn
• Python 3.6 / 3.7
• transformadores

Para instalar los requisitos, ejecute pip install -r requirements.txt .

• Para los modelos no basados ​​en BERT, se requieren vectores de palabras previamente entrenados con guantes, consulte data_utils.py para obtener más detalles.

Uso

Capacitación

python train.py --model_name bert_spc --dataset restaurant

• Todos los modelos implementados se enumeran en el directorio de modelos.
• Vea Train.py para obtener más argumentos de entrenamiento.
• Consulte Train_k_fold_cross_val.py para obtener soporte de validación cruzada K-Fold.

Inferencia

• Consulte Infer_example.py para modelos no basados ​​en Bert y modelos basados ​​en Bert.

Consejos

• Para los modelos no basados ​​en BERT, el procedimiento de capacitación no es muy estable.
• Los modelos basados ​​en Bert son más sensibles a los hiperparámetros (especialmente la tasa de aprendizaje) en pequeños conjuntos de datos, vea este problema.
• El ajuste de la tarea específica es necesaria para liberar el verdadero poder de Bert.

Estructura

Para la extracción flexible de entrenamiento/inferencia y término de aspecto, pruebe Pyabsa, que incluye todos los modelos en este repositorio.

Revisiones / encuestas

Qiu, Xipeng, et al. "Modelos previamente capacitados para el procesamiento del lenguaje natural: una encuesta". ARXIV Preprint ARXIV: 2003.08271 (2020). [PDF]

Zhang, Lei, Shuai Wang y Bing Liu. "Aprendizaje profundo para el análisis de sentimientos: una encuesta". ARXIV Preprint ARXIV: 1801.07883 (2018). [PDF]

Young, Tom, et al. "Tendencias recientes en el procesamiento del lenguaje natural basado en el aprendizaje profundo". ARXIV Preprint ARXIV: 1708.02709 (2017). [PDF]

Modelos con sede en Bert

Bert-ADA (oficial)

Rietzler, Alexander, et al. "Adapte o quede atrás: Adaptación de dominio a través de Finetuning del modelo de lenguaje BERT para la clasificación de sentimientos de objetivo de aspecto". ARXIV Preprint ARXIV: 1908.11860 (2019). [PDF]

Berr-Pt (oficial)

Xu, Hu, et al. "Bert después de la capacitación para la comprensión de la lectura de revisión y el análisis de sentimientos basados ​​en aspectos". ARXIV Preprint ARXIV: 1904.02232 (2019). [PDF]

ABA-Bert-Pair (oficial)

Sun, Chi, Luyao Huang y Xipeng Qiu. "Utilizando BERT para el análisis de sentimientos basado en aspectos mediante la construcción de oraciones auxiliares". Arxiv Preprint ARXIV: 1903.09588 (2019). [PDF]

LCF-Bert (lcf_bert.py) (oficial)

Zeng Biqing, Yang Heng, et al. "LCF: un mecanismo de enfoque de contexto local para la clasificación de sentimientos basados ​​en aspectos". Ciencias aplicadas. 2019, 9, 3389. [PDF]

Aen-Bert (Aen.py)

Song, Youwei, et al. "Red de codificadores atencionales para la clasificación de sentimientos dirigidos". ARXIV Preprint ARXIV: 1902.09314 (2019). [PDF]

Bert para la clasificación del par de oraciones (bert_spc.py)

Devlin, Jacob, et al. "Bert: pretruento de transformadores bidireccionales profundos para la comprensión del lenguaje". ARXIV Preprint ARXIV: 1810.04805 (2018). [PDF]

Modelos no basados ​​en Berten

ASGCN (asgcn.py) (oficial)

Zhang, Chen, et al. "Clasificación de sentimientos basados ​​en aspectos con redes convolucionales de gráficos específicas de aspecto". Actas de la Conferencia de 2019 sobre métodos empíricos en procesamiento del lenguaje natural. 2019. [PDF]

Mgan (mgan.py)

Fan, Feifan, et al. "Red de atención múltiple para la clasificación de sentimientos a nivel de aspecto". Actas de la Conferencia de 2018 sobre métodos empíricos en procesamiento del lenguaje natural. 2018. [PDF]

AOA (aoa.py)

Huang, Binxuan, et al. "Clasificación de sentimientos a nivel de aspecto con redes neuronales de atención sobre atención". ARXIV Preprint ARXIV: 1804.06536 (2018). [PDF]

Tnet (tnet_lf.py) (oficial)

Li, Xin, et al. "Redes de transformación para la clasificación de sentimientos orientados al objetivo". ARXIV Preprint ARXIV: 1805.01086 (2018). [PDF]

Cabasc (Cabasc.py)

Liu, Qiao, et al. "Modelo de atención de contenido para el análisis de sentimientos basado en el aspecto". Actas de la Conferencia World Wide Web World Web 2018 en World Wide Web. Comité Directivo Internacional de Conferencias World Wide Web, 2018.

Ram (Ram.py)

Chen, Peng, et al. "Red de atención recurrente en la memoria para el análisis de sentimientos de aspecto". Actas de la Conferencia de 2017 sobre métodos empíricos en procesamiento del lenguaje natural. 2017. [PDF]

Memnet (Memnet.py) (oficial)

Tang, Duyu, B. Qin y T. Liu. "Clasificación de sentimiento de nivel de aspecto con una red de memoria profunda". Conferencia sobre métodos empíricos en procesamiento del lenguaje natural 2016: 214-224. [PDF]

Ian (Ian.py)

MA, Dehong, et al. "Redes de atención interactiva para la clasificación de sentimientos a nivel de aspecto". Arxiv Preprint ARXIV: 1709.00893 (2017). [PDF]

Atae-lstm (atae_lstm.py)

Wang, Yequan, Minlie Huang y Li Zhao. "LSTM basado en la atención para la clasificación de sentimientos a nivel de aspecto". Actas de la conferencia de 2016 sobre métodos empíricos en procesamiento del lenguaje natural. 2016.

TD-LSTM (td_lstm.py, tc_lstm.py) (oficial)

Tang, Duyu, et al. "LSTM efectivos para la clasificación de sentimientos dependientes del objetivo". Actas de Coling 2016, la 26ª Conferencia Internacional sobre Lingüística Computacional: documentos técnicos. 2016. [PDF]

LSTM (LSTM.PY)

Hochreiter, Sepp y Jürgen Schmidhuber. "Memoria a largo plazo a corto plazo". Computación neural 9.8 (1997): 1735-1780. [PDF]

Nota sobre Ejecutar con RTX30*

Si se ejecuta en la serie RTX30, puede haber algunos problemas de compatibilidad entre las versiones instaladas/requeridas de antorcha, CUDA. En ese caso, intente usar requirements_rtx30.txt en lugar de requirements.txt .

Colaboradores

Gracias a estas maravillosas personas:

Alberto Paz	jiangtao	Donde	Songyouwei	Yangheng	rmarcacini	Yikai Zhang
Alexey Naiden	hbeybutyan	Pradeesh

Este proyecto sigue la especificación de todos los contribuyentes. ¡Contribuciones de cualquier tipo bienvenido!

Licencia

MIT