NLP-PAPERNOTES
在工作,摘要和思想时阅读与NLP相关的论文。机器阅读理解(MRC),问题答案(QA),多文件MRC,信息回收器(IR)和排名专业。
基本概念
- LSA ,Wikipedia中的参考文献,潜在语义分析介绍,通过潜在语义分析索引,Cuhk潜在语义索引(LSI)一个例子,Cuhk ppt,Stanford NLP IR-NLP IR-Book Book潜在的仪式索引。
- LDA ,Wikipedia中的参考,LDA主题建模:Python中的解释,主题建模和潜在的DIRICHLET分配(LDA),Paper Litich Dirichlet分配,您的潜在Dirichlet分配指南,主题建模,使用潜在的Dirichlet分配(LDA)(LDA)(LDA)和glibbs sampling Sampling andled!
- SVD ,Wikipedia的参考资料,
语言模型
访问Tomas Mikolov Google Scholar获取相关论文。
其他论文列表:
伯特风格的模型,摘要ppt。
- 伯特
- xlnet
- 结构伯特
- Spanbert
- Sembert
- 罗伯塔
- 阿尔伯特
MRC和QA
摘要PPT。
ACL 2019
知识蒸馏(KD)
KD类似于标签平滑,从以下博客中引入KD:
- 神经网络蒸馏器
- 较小,更快,更便宜,更轻:介绍Distilbert,这是Bert的蒸馏版本
- 使用神经网(知识蒸馏)挖掘黑暗知识
- 知识蒸馏
马可女士
MAS MARCO Legardboard,几种公共纸模型,写在GitHub MSMARCO-MRC分析上
通过检索
- 二重奏:[arxiv],[ppt],[注释]
- 二重奏V2
优化器
书架
- 《深度学习》
- 《深度学习(中文版)》
- 《用于机器学习的数学》
- 《学习为信息检索排名》
- 《 GDL生成深度学习》
- 《信息检索简介》
- 《 word2vec数学理论》
- tensorflow2 深度学习》 [代码]