Tutorial untuk International Summer School on Deep Learning, 2019 di Gdansk, Polandia
https://docs.google.com/presentation/d/1dji1yx4u5igapgwavt0amoclwwso7ou1un93smuawma/
Saat ini ada 3 bagian langsung untuk tutorial ini.
Bagian pertama mencakup kata embeddings pra-terlatih (colab)
Bagian kedua mencakup emeddings kontekstual pra-terlatih (colab)
Bagian ketiga mencakup menyempurnakan model pra-terlatih (COLAB)
April 2022 Jika Anda tertarik untuk mempelajari cara membangun arsitektur transformator yang berbeda dari bawah ke atas, saya memiliki satu set tutorial baru dengan detail mendalam dan implementasi lengkap dari beberapa model transformator populer. Mereka menunjukkan cara membangun model langkah demi langkah, cara pretrain mereka, dan cara menggunakannya untuk tugas hilir. Ada paket ular python yang menyertainya yang berisi semua potongan tutorial yang disatukan
Juli 2020 Saya telah memposting satu set tutorial Colab menggunakan Mead yang dirujuk dalam tutorial ini. Kumpulan notebook baru ini mencakup materi serupa, termasuk pembelajaran transfer untuk klasifikasi dan tagger, serta model pelatihan transformator dari awal menggunakan Mead API dengan TPU. Mead memudahkan untuk melatih banyak model yang kuat untuk NLP menggunakan konfigurasi YAML sederhana dan memudahkan untuk memperluas kode dengan model baru sambil membandingkan dengan baseline yang kuat!