Este repo contém tutoriais que abrangem modelos de classificação de sequência de entendimento e implementação usando Pytorch, com o Python 3.9. Especificamente, treinaremos modelos para prever sentimentos de críticas de filmes.
Se você encontrar algum erro ou discordar de alguma das explicações, não hesite em enviar um problema. Congratulo -me com qualquer feedback, positivo ou negativo!
Instale as dependências necessárias com: pip install -r requirements.txt --upgrade .
1 - saco neural de palavras
Este tutorial abrange o fluxo de trabalho de um projeto de classificação de sequência com Pytorch. Abordaremos o básico da classificação de sequência usando um modelo de saco de palavras neurais simples, mas eficaz, e como usar os conjuntos de dados/Torchtext para simplificar o carregamento/pré-processamento de dados.
2 - redes neurais recorrentes
Agora, temos o fluxo de trabalho de classificação básica de sequência, este tutorial se concentrará em melhorar nossos resultados, mudando para um modelo de rede neural recorrente (RNN). Cobriremos a teoria por trás dos RNNs e examinaremos uma implementação da Memória de curto prazo (LSTM) RNN, uma das variantes mais comuns do RNN.
3 - Redes neurais convolucionais
Em seguida, abordaremos as redes neurais convolucionais (CNNs) para análise de sentimentos. Este modelo será uma implementação de redes neurais convolucionais para classificação de frases.
4 - Transformers
Por fim, mostraremos como usar a biblioteca Transformers para carregar um modelo de transformador pré-treinado, especificamente o modelo Bert deste documento, e usá-lo para classificação de sequência.
As versões anteriores desses tutoriais usavam recursos da biblioteca Torchtext, que não estão mais disponíveis. Estes são armazenados no diretório herdado.
Aqui estão algumas coisas que eu olhei enquanto faço esses tutoriais. Parte disso pode estar desatualizada.