Introdução ao Processamento de Linguagem Natural baseado em Transformers (PNL)
Processamento de linguagem natural com transformadores. Os objetos que este projeto são:
- Iniciantes da PNL, iniciantes de transformadores
- Tenha uma certa programação básica de Python e Pytorch
- Interessado em modelos de transformadores de ponta
- Entenda e conheça modelos simples de aprendizado profundo
A visão deste projeto é:
Esperamos combinar explicações vívidas de princípios e vários projetos práticos práticos para ajudar os iniciantes rapidamente a começar rapidamente com a PNL na era profunda da aprendizagem.
Os principais materiais de referência para este projeto são:
- Biblioteca de Código de Huggingface/Transformers
- Muitos excelentes transformadores explicam e compartilham
Membros do projeto:
- Erenup (Notas de Duoduo), Universidade de Pequim, pessoa responsável
- Zhang Fan, Datawhale, Universidade de Tianjin, capítulo 4
- Zhang Xian, Instituto de Tecnologia Harbin, Capítulo 2
- Li Liqiu, Universidade de Zhejiang, Capítulo 3
- Cai Jie, Universidade de Pequim, Capítulo 4
- Hlzhang, Universidade McGill, capítulo 4
- Taiwan Yunpeng Capítulo 2
- Capítulo 2 de Zhang Hongxu
Este projeto resumiu e estudou muitos documentos e compartilhamento excelentes e tem fontes marcadas em cada capítulo. Se houver alguma violação, entre em contato com os membros do projeto a tempo. Obrigado. Vá para o Github e clique em Star e saiba mais com metade do esforço? Obrigado.
Conteúdo do projeto
Capítulo 1 - Prefácio
- 1.0 Reading e Código de Código Configuração do Ambiente.MD
- 1.1-a ascensão dos transformadores na NLP
Capítulo 2 Princípios relacionados ao transformador
- 2.1 Atenção ilustrada
- 2.2- Transformador gráfico
- 2.2.1-pytorch Writing Transformer.MD
- 2.2.2-Pytorch Retirocorção Opcional Reading.md
- 2.3 Bert ilustrado
- Gpt de 2,4 graphic
- Teste de 2,5 capítulo
Capítulo 3 - Escreva um modelo de transformador: Bert
- 3.1-como implementar um bert
- 3.2-Como aplicar um bert
- Teste de 3.3 Capítulo
Capítulo 4 - Use Transformers para resolver tarefas de PNL
- 4.0-Forword
- 4.1 Classificação de texto
- 4.2-sequence rotulagem
- 4.3-q & a Q&A extraído por tarefas
- 4.4-q e uma tarefa multiple perguntas e respostas
- Modelo de linguagem de tarefas de 4.5 generalidade
- 4.6 Tarefas-generadas Tradução MACHINE
- 4.7 geração de tarefas-geral
- Teste de 4.8 capítulo
