PNLP-Pernotes
Lire des articles liés aux PNL lors du travail, du résumé et des pensées. Majeure en matière de compréhension en lecture des machines (MRC), de réponse aux questions (QA), MRC multi-documents, Retriever d'information (IR) et classement.
Concepts de base
- LSA , Références dans Wikipedia, une introduction à l'analyse sémantique latente, indexation par analyse sémantique latente, Cuhk LATET SEMANTIC INDEXTING (LSI) Un exemple, Cuhk PPT, Stanford NLP IR-Book-Sémante latente-Indexing.
- LDA , Références dans Wikipedia, LDA Topic Modeling: An Explication, Topic Modeling and Latente Dirichlet Allocation (LDA) in Python, Paper Latent Dirichlet Allocation, votre guide to Latent Dirichlet Allocation, Modeling Topic utilisant la modélisation de sujets latente avec Gensim (Pitthon).
- SVD , références à Wikipedia,
Modèle de langue
Visiter Tomas Mikolov Google Scholar pour obtenir des articles connexes.
AUTRES PAPIERS LISTE:
- Un modèle de langue probabiliste neuronale
Modèles de style Bert, résumé ppt.
- Bert
- Xlnet
- structure
- Spanbert
- Sember
- Roberta
- Albert
MRC et QA
Résumé ppt.
ACL 2019
Distillation des connaissances (KD)
KD est similaire au lissage des étiquettes, introduction de KD à partir des blogs suivants:
- Distillateur de réseau neuronal
- Plus petit, plus rapide, moins cher, plus léger: introduisant Disttilbert, une version distillée de Bert
- Appuyez dans les connaissances sombres en utilisant des filets neuronaux - Distillation des connaissances
- Distillation des connaissances
Mme Marco
MS Marco Leadboard, plusieurs modèles de documents publics, écrits sur GitHub Msmarco-MRC-Analysis
Récupération de passage
- Duo: [arxiv], [ppt], [notes]
- Duo v2
Optimiseur
Étagère
- 《Learning Learning》
- 《Apprentissage en profondeur (中文版)》
- 《Mathématiques pour l'apprentissage automatique》
- 《Apprendre à se classer pour la recherche d'informations》
- 《GDL Génératif Deep Learning》
- 《Introduction à la recherche d'informations》
- 《Théories mathématiques Word2Vec》
- 《Tensorflow2 深度学习》 [code]
