ABSA PyTorch

Absa-Pytorch

Análise de sentimentos baseados em aspectos, implementações de Pytorch.

基于方面的情感分析 ， 使用 pytorch 实现。

Exigência

• pytorch> = 0.4.0
• Numpy> = 1.13.3
• Sklearn
• Python 3.6 / 3.7
• transformadores

Para instalar os requisitos, execute pip install -r requirements.txt .

• Para modelos que não são baseados em Bert, são necessários vetores de palavras pré-treinados de luva, consulte o data_utils.py para obter mais detalhes.

Uso

Treinamento

python train.py --model_name bert_spc --dataset restaurant

• Todos os modelos implementados estão listados no diretório de modelos.
• Consulte Train.py para obter mais argumentos de treinamento.
• Consulte Train_k_fold_cross_val.py para suporte de validação cruzada por K-Fold.

Inferência

• Consulte Infer_example.py para modelos não baseados em Bert e modelos baseados em Bert.

Pontas

• Para modelos não baseados em Bert, o procedimento de treinamento não é muito estável.
• Os modelos baseados em Bert são mais sensíveis aos hiperparâmetros (especialmente taxa de aprendizado) em pequenos conjuntos de dados, consulte esse problema.
• É necessário ajustar fino na tarefa específica para liberar o verdadeiro poder de Bert.

Estrutura

Para treinamento/inferência flexível e extração de termos de aspecto, tente Pyabsa, que inclui todos os modelos deste repositório.

Revisões / pesquisas

Qiu, Xipeng, et al. "Modelos pré-treinados para processamento de linguagem natural: uma pesquisa". Arxiv pré -impressão Arxiv: 2003.08271 (2020). [PDF]

Zhang, Lei, Shuai Wang e Bing Liu. "Aprendizagem profunda para análise de sentimentos: uma pesquisa". Arxiv pré -impressão Arxiv: 1801.07883 (2018). [PDF]

Young, Tom, et al. "Tendências recentes no processamento de linguagem natural baseado em aprendizado profundo". Arxiv pré -impressão Arxiv: 1708.02709 (2017). [PDF]

Modelos baseados em Bert

Bert-Ada (oficial)

Rietzler, Alexander, et al. "Adapte ou seja deixado para trás: adaptação de domínio através do Modelo de Linguagem Bert Finetuning para classificação de sentimentos de alvo de aspecto". Arxiv pré -impressão Arxiv: 1908.11860 (2019). [PDF]

Berr-pt (oficial)

Xu, Hu, et al. "Bert pós-treinamento para compreensão de leitura de revisão e análise de sentimentos baseados em aspectos". Arxiv pré -impressão Arxiv: 1904.02232 (2019). [PDF]

Absa-Bert-par (oficial)

Sun, Chi, Luyao Huang e Xipeng Qiu. "Utilizando Bert para análise de sentimentos baseados em aspectos por meio da construção de sentença auxiliar". Arxiv pré -impressão Arxiv: 1903.09588 (2019). [PDF]

LCF-Bert (LCF_BERT.PY) (OFICIAL)

Zeng Biqing, Yang Heng, et al. "LCF: um mecanismo de foco de contexto local para classificação de sentimentos baseados em aspectos". Ciências Aplicadas. 2019, 9, 3389. [PDF]

Aen-Bert (Aen.py)

Song, Youwei, et al. "Rede atencional do codificador para classificação de sentimentos direcionados". Arxiv pré -impressão Arxiv: 1902.09314 (2019). [PDF]

Classificação de pares de frases (bert_spc.py)

Devlin, Jacob, et al. "Bert: pré-treinamento de transformadores bidirecionais profundos para a compreensão da linguagem". Arxiv pré -impressão Arxiv: 1810.04805 (2018). [PDF]

Modelos não baseados em Bert

Asgcn (asgcn.py) (oficial)

Zhang, Chen, et al. "Classificação de sentimentos baseados em aspectos com redes convolucionais de gráficos específicas de aspecto". Anais da Conferência de 2019 sobre métodos empíricos no processamento de linguagem natural. 2019. [PDF]

Mgan (mgan.py)

Fan, Feifan, et al. "Rede de atenção múltipla para classificação de sentimentos no nível de aspecto". Anais da Conferência de 2018 sobre métodos empíricos no processamento de linguagem natural. 2018. [PDF]

AoA (Aoa.py)

Huang, Binxuan, et al. "Classificação de sentimentos de nível de aspecto com redes neurais de atenção a atenção". Arxiv pré -impressão Arxiv: 1804.06536 (2018). [PDF]

Tnet (tnet_lf.py) (oficial)

Li, Xin, et al. "Redes de transformação para classificação de sentimentos orientados para o alvo". Arxiv pré -impressão Arxiv: 1805.01086 (2018). [PDF]

CABASC (CABASC.PY)

Liu, Qiao, et al. "Modelo de atenção de conteúdo para análise de sentimentos baseada em aspectos". Anais da conferência World Wide World World World World World Wide. Comitê de Direção de Conferências World Wide Wide Web, 2018.

Ram (ram.py)

Chen, Peng, et al. "Rede de atenção recorrente na memória para análise de sentimentos de aspecto". Anais da Conferência de 2017 sobre métodos empíricos no processamento de linguagem natural. 2017. [PDF]

MEMNET (MEMNET.PY) (OFICIAL)

Tang, Duyu, B. Qin e T. Liu. "Classificação de sentimentos de nível de aspecto com rede de memória profunda". Conferência sobre métodos empíricos no processamento de linguagem natural 2016: 214-224. [PDF]

Ian (Ian.py)

Ma, Dehong, et al. "Redes de atenção interativa para classificação de sentimentos no nível de aspecto". Arxiv pré -impressão Arxiv: 1709.00893 (2017). [PDF]

Atae-lstm (atae_lstm.py)

Wang, Yequan, Minlie Huang e Li Zhao. "LSTM baseado em atenção para classificação de sentimentos no nível de aspecto". Anais da Conferência de 2016 sobre métodos empíricos no processamento de linguagem natural. 2016.

TD-LSTM (TD_LSTM.PY, TC_LSTM.PY) ​​(OFICIAL)

Tang, Duyu, et al. "LSTMs eficazes para classificação de sentimentos dependentes do alvo". Anais da Coling 2016, 26ª Conferência Internacional sobre Linguística Computacional: Trabalhos Técnicos. 2016. [PDF]

LSTM (lstm.py)

Hochreiter, Sepp e Jürgen Schmidhuber. "Memória de longo prazo de longo prazo." Computação Neural 9.8 (1997): 1735-1780. [PDF]

Nota ao executar com RTX30*

Se você estiver em execução na série RTX30, pode haver alguns problemas de compatibilidade entre as versões instaladas/necessárias da tocha, CUDA. Nesse caso, tente usar requirements_rtx30.txt em vez de requirements.txt .

Colaboradores

Obrigado a essas pessoas maravilhosas:

Alberto Paz	Jiangtao	Onde a cabeça	Songyouwei	Yangheng	RMarcacini	Yikai Zhang
Alexey Naiden	Hbeybutyan	Pradeesh

Este projeto segue a especificação de todos os contribuintes. Contribuições de qualquer tipo de boas -vindas!

Licença

Mit