Repo ini berisi tutorial yang mencakup pemahaman dan penerapan model klasifikasi urutan menggunakan Pytorch, dengan Python 3.9. Secara khusus, kami akan melatih model untuk memprediksi sentimen dari ulasan film.
Jika Anda menemukan kesalahan atau tidak setuju dengan penjelasan apa pun, jangan ragu untuk mengajukan masalah. Saya menyambut umpan balik apa pun, positif atau negatif!
Instal dependensi yang diperlukan dengan: pip install -r requirements.txt --upgrade .
1 - Kantung kata -kata saraf
Tutorial ini mencakup alur kerja proyek klasifikasi urutan dengan Pytorch. Kami akan membahas dasar-dasar klasifikasi urutan menggunakan model tas-kata yang sederhana, tetapi efektif, saraf, dan cara menggunakan dataset/libario torchtext untuk menyederhanakan pemuatan/preprocessing data.
2 - Jaringan saraf berulang
Sekarang kami memiliki alur kerja klasifikasi urutan dasar yang dibahas, tutorial ini akan fokus pada peningkatan hasil kami dengan beralih ke model jaringan saraf berulang (RNN). Kami akan membahas teori di balik RNN, dan melihat implementasi memori jangka pendek (LSTM) RNN, salah satu varian RNN yang paling umum.
3 - Jaringan Saraf Konvolusional
Selanjutnya, kami akan membahas jaringan saraf konvolusional (CNN) untuk analisis sentimen. Model ini akan menjadi implementasi jaringan saraf konvolusional untuk klasifikasi kalimat.
4 - Transformers
Akhirnya, kami akan menunjukkan cara menggunakan pustaka Transformers untuk memuat model transformator pra-terlatih, khususnya model BerT dari makalah ini, dan menggunakannya untuk klasifikasi urutan.
Versi sebelumnya dari tutorial ini menggunakan fitur dari pustaka Torchtext yang tidak lagi tersedia. Ini disimpan di direktori Legacy.
Berikut adalah beberapa hal yang saya lihat saat membuat tutorial ini. Beberapa di antaranya mungkin ketinggalan zaman.