NLP-Papernotes
Lendo documentos relacionados ao NLP ao trabalhar, resumo e pensamentos. Major em Compreensão de Leitura de Máquinas (MRC), Resposta de Perguntas (QA), MRC de Multi-Document, Retriever de Informações (IR) e Ranking.
Conceitos básicos
- LSA , Referências na Wikipedia, Uma Introdução à Análise Semântica Latente, Indexação por Análise Semântica Latente, Indexação Semântica Latente de CuHK (LSI) Um exemplo, CuHK PPT, Indexação Latente-Semantic-Semantic Latent-Semantic Stanford NLP.
- LDA , Referências na Wikipedia, Modelagem de Tópicos LDA: uma explicação, modelagem de tópicos e alocação latente de Dirichlet (LDA) em Python, papel latente alocação de Dirichlet, seu guia para alocação de Dirichlet latente, modelagem de tópicos com a allocação de GENS (LDA).
- SVD , Referências na Wikipedia,
Modelo de idioma
Visitando Tomas Mikolov Google Scholar para obter artigos relacionados.
Outros documentos Lista:
- Um modelo de linguagem probabilística neural
Modelos no estilo Bert, resumo ppt.
- Bert
- Xlnet
- Strucbert
- Spanbert
- Samert
- Roberta
- Albert
MRC & QA
Resumo ppt.
ACL 2019
Destilação do conhecimento (KD)
KD é semelhante à suavização de etiquetas, introdução de KD nos blogs a seguir:
- Destilador de rede neural
- Menor, mais rápido, mais barato, mais leve: Apresentando o destilbert, uma versão destilada de Bert
- Aproveite o conhecimento sombrio usando redes neurais - destilação de conhecimento
- Destilação do conhecimento
Sra. Marco
Marco Liderondboard, vários modelos de papel público, escritos em Github MSMARCO-MRC-ANALISIONS
Recuperação de passagem
- Duet: [Arxiv], [ppt], [Notas]
- Duet V2
Otimizador
Estante de livros
- 《Aprendizagem profunda》
- 《Aprendizagem profunda (中文版)》
- 《Matemática para aprendizado de máquina》
- 《Aprendendo a classificar para recuperação de informações》
- 《Aprendizagem profunda gerativa de GDL》
- 《Introdução à recuperação de informações》
- 《Word2Vec Math Theories》
- 《Tensorflow2 深度学习》 [código]