Papernotes NLP
Lectura de los documentos relacionados con la PNL cuando se trabaja, resumen y pensamientos. Mayor en comprensión de lectura en máquina (MRC), respuesta a preguntas (QA), MRC multi-documento, Retriever de información (IR) y clasificación.
Conceptos básicos
- LSA , Referencias en Wikipedia, una introducción al análisis semántico latente, indexación por análisis semántico latente, CUHK Latent Semantic Indexing (LSI) Un ejemplo, Cuhk PPT, Stanford NLP IR-Book-Indexing latente-inexplicante.
- LDA , Referencias en Wikipedia, Modelado de temas de LDA: una explicación, modelado de temas y asignación latente de Dirichlet (LDA) en Python, asignación de documentos latentes de Dirichlet, su guía para la asignación de Dirichlet latente, modelado de temas utilizando la asignación de Dirichlet latente (LDA) y la muestra de la muestra explicada!
- SVD , referencias en Wikipedia,
Modelo
Visitar Tomas Mikolov Google Scholar para obtener documentos relacionados.
Otros documentos de la lista:
- Un modelo de lenguaje probabilístico neuronal
Modelos de estilo Bert, Resumen Ppt.
- Bert
- XLNET
- structbert
- spanbert
- Sembert
- Roberta
- Albert
MRC y QA
Resumen ppt.
ACL 2019
Destilación del conocimiento (KD)
KD es similar al suavizado de etiquetas, la introducción de KD de los siguientes blogs:
- Destilador de redes neuronales
- Más pequeño, más rápido, más barato, más ligero: introducción de Distilbert, una versión destilada de Bert
- Aproveche el conocimiento oscuro utilizando redes neuronales - Destilación del conocimiento
- Destilación de conocimiento
Sra. Marco
MS Marco Raeadboard, varios modelos de documentos públicos, escritos en análisis de Github Msmarco-MRC
Recuperación de pasaje
- Duet: [arxiv], [ppt], [notas]
- Dueto V2
Optimizador
Estante para libros
- 《Aprendizaje profundo》
- 《Aprendizaje profundo (中文版)》
- 《Matemáticas para el aprendizaje automático》
- 《Aprender a clasificarse para la recuperación de la información》
- 《GDL Generativo Aprendizaje profundo》
- 《Introducción a la recuperación de información》
- 《Teorías de matemáticas de Word2Vec》
- 《Tensorflow2 深度学习》 [código]