nlp-papernotes
Membaca makalah terkait NLP saat bekerja, ringkasan dan pikiran. Mayor dalam pemahaman pembacaan mesin (MRC), Penjawab Pertanyaan (QA), MRC multi-dokumen, Information Retriever (IR) dan peringkat.
Konsep Dasar
- LSA , Referensi di Wikipedia, Pengantar Analisis Semantik Laten, Pengindeksan oleh Analisis Semantik Laten, CUHK Latent Semantic Indexing (LSI) Contoh, CUHK PPT, Stanford NLP IR-Book Latent-Semantic-Indexing.
- LDA , Referensi di Wikipedia, Pemodelan Topik LDA: Penjelasan, Pemodelan Topik dan Alokasi Dirichlet Laten (LDA) dalam Python, Alokasi Dirichlet Laten, Panduan Anda untuk Alokasi Dirichlet Laten, Topik Model Menggunakan Laten Dirichlet Allocation (LDA) dan Gibbs Sampling yang Dijelaskan!, Topik Latent Dirichlet Allocation (LDA) dan Gibbs Sampling yang Dijelaskan!, Topik Laten Dirication (LDA) dan gibbs sampling yang dieksplorasi!, Topik Latent Dirichlet Allocation (LDA) dan gibbs sampling yang dijelaskan!, Topik dengan Topik dengan Gibbs Model yang Dijelaskan!
- SVD , referensi di Wikipedia,
Model Bahasa
Mengunjungi Tomas Mikolov Google Cendekia untuk mendapatkan makalah terkait.
Daftar Makalah Lain:
- Model bahasa probabilistik saraf
Model Bert-Style, ringkasan ppt.
- Bert
- Xlnet
- Structbert
- Spanbert
- Sembt
- Roberta
- Albert
MRC & QA
Ringkasan ppt.
ACL 2019
Distilasi Pengetahuan (KD)
KD mirip dengan label smoothing, pengenalan KD dari blog berikut:
- Penyuling Jaringan Saraf
- Lebih kecil, lebih cepat, lebih murah, lebih ringan: Memperkenalkan Distilbert, versi Bert yang disuling
- Ketuk ke dalam Pengetahuan Gelap Menggunakan Neural Nets - Distilasi Pengetahuan
- Distilasi Pengetahuan
Ms Marco
Ms Marco Leaderboard, beberapa model kertas publik, yang ditulis di Github Msmarco-Mrc-Analysis
Pengambilan bagian
- Duet: [arxiv], [ppt], [catatan]
- Duet v2
Pengoptimal
Rak buku
- 《Pembelajaran mendalam》
- 《Pembelajaran mendalam (中文版)》
- 《Matematika untuk Pembelajaran Mesin》
- 《Belajar peringkat untuk pengambilan informasi》
- 《Pembelajaran mendalam GDL-generatif》
- 《Pengantar Pengambilan Informasi》
- 《Teori Matematika Word2Vec》
- 《TensorFlow2 深度学习》 [kode]