Memulai dengan Transformers Natural Language Processing (NLP)
Pemrosesan bahasa alami dengan transformator. Objek yang proyek ini adalah:
- Pemula NLP, pemula transformator
- Memiliki pemrograman dasar Python dan Pytorch tertentu
- Tertarik dengan model transformator mutakhir
- Memahami dan mengetahui model pembelajaran mendalam yang sederhana
Visi proyek ini adalah:
Kami berharap dapat menggabungkan penjelasan yang jelas tentang prinsip-prinsip dan beberapa proyek praktis langsung untuk membantu pemula dengan cepat memulai dengan NLP di era pembelajaran yang mendalam.
Bahan referensi utama untuk proyek ini adalah:
- Perpustakaan Huggingface/Transformers Code
- Banyak transformer yang sangat baik menjelaskan dan berbagi
Anggota Proyek:
- Erenup (Catatan Duoduo), Universitas Peking, orang yang bertanggung jawab
- Zhang Fan, Datawhale, Universitas Tianjin, Bab 4
- Zhang Xian, Harbin Institute of Technology, Bab 2
- Li Liqiu, Universitas Zhejiang, Bab 3
- Cai Jie, Universitas Peking, Bab 4
- Hlzhang, Universitas McGill, Bab 4
- Taiwan Yunpeng Bab 2
- Bab 2 dari Zhang Hongxu
Proyek ini telah merangkum dan mempelajari banyak dokumen dan berbagi yang sangat baik, dan telah menandai sumber di setiap bab. Jika ada pelanggaran, silakan hubungi anggota proyek tepat waktu. Terima kasih. Pergi ke GitHub dan klik Star dan pelajari lebih lanjut dengan setengah usaha? Terima kasih.
Konten proyek
Bab 1 - Pendahuluan
- 1.0-lokal membaca dan kode menjalankan konfigurasi lingkungan.md
- 1.1-Bangkitnya transformator di NLP
Bab 2 Prinsip Transformator yang Terkait
- 2.1-perhatian yang diilustrasikan
- 2.2- Transformator Grafis
- 2.2.1-pytorch Writing Transformer.md
- 2.2.2-pytorch writing transformer-opsional reading.md
- 2.3-ilustrasi Bert
- 2.4-grafik GPT
- Tes 2.5 Bab
Bab 3 - Tulis model transformator: Bert
- 3.1-bagaimana untuk mengimplementasikan Bert
- 3.2-Bagaimana menerapkan Bert
- Tes 3,3 Bab
Bab 4 - Gunakan Transformers untuk Memecahkan Tugas NLP
- 4.0-foreword
- Klasifikasi 4.1-teks
- 4.2-label urutan
- 4.3-Q & T&A yang diekstraksi tugas
- 4.4-Q & Pilihan dan jawaban pilihan tugas-tugas
- 4,5-generat model bahasa tugas
- 4.6-Hasil Tugas-Machine Terjemahan
- 4.7-generat pembuatan tugas-ringkasan
- Tes 4,8 Bab