nlp papernotes

NLP-PAPERNOTES

在工作，摘要和思想時閱讀與NLP相關的論文。機器閱讀理解（MRC），問題答案（QA），多文件MRC，信息回收器（IR）和排名專業。

基本概念

• LSA ，Wikipedia中的參考文獻，潛在語義分析介紹，通過潛在語義分析索引，Cuhk潛在語義索引（LSI）一個例子，Cuhk ppt，Stanford NLP IR-NLP IR-Book Book潛在的儀式索引。
• LDA ，Wikipedia中的參考，LDA主題建模：Python中的解釋，主題建模和潛在的DIRICHLET分配（LDA），Paper Litich Dirichlet分配，您的潛在Dirichlet分配指南，主題建模，使用潛在的Dirichlet分配（LDA）（LDA）（LDA）和glibbs sampling Sampling andled！
• SVD ，Wikipedia的參考資料，

語言模型

訪問Tomas Mikolov Google Scholar獲取相關論文。

其他論文列表：

• 神經概率語言模型

伯特風格的模型，摘要ppt。

• 伯特
• xlnet
• 結構伯特
• Spanbert
• Sembert
• 羅伯塔
• 阿爾伯特

MRC和QA

摘要PPT。

ACL 2019

• RE3QA
• rankqa

知識蒸餾（KD）

KD類似於標籤平滑，從以下博客中引入KD：

• 神經網絡蒸餾器
• 較小，更快，更便宜，更輕：介紹Distilbert，這是Bert的蒸餾版本
• 使用神經網（知識蒸餾）挖掘黑暗知識
• 知識蒸餾

馬可女士

MAS MARCO Legardboard，幾種公共紙模型，寫在GitHub MSMARCO-MRC分析上

通過檢索

• 二重奏：[arxiv]，[ppt]，[註釋]
• 二重奏V2

優化器

• 亞當·托多（Adam Todo）

書架

• 《深度學習》
• 《深度學習（中文版）》
• 《用於機器學習的數學》
• 《學習為信息檢索排名》
• 《 GDL生成深度學習》
• 《信息檢索簡介》
• 《 word2vec數學理論》
• tensorflow2 深度學習》 [代碼]