reptile pytorch

Reptil

Implementasi Pytorch dari algoritma reptil Openai untuk pembelajaran yang diawasi.

Saat ini, berjalan di omniglot tetapi belum pada miniimagenet.

Kode belum diuji secara luas. Kontribusi dan umpan balik lebih dari disambut!

Dataset meta-pembelajaran omniglot

Sudah ada kelas dataset Omniglot di TorchVision, namun tampaknya lebih disesuaikan untuk belajar-belajar yang diawasi daripada beberapa pembelajaran shot.

omniglot.py menyediakan cara untuk mencicipi tugas dasar N-way dari omniglot, dan berbagai utilitas untuk membagi set meta-pelatihan serta tugas-tugas dasar.

Fitur

• Pantau pelatihan dengan Tensorboardx.
• Pelatihan mengganggu dan melanjutkan.
• Latih dan evaluasi pada omniglot.
• Ukuran meta-batch> 1.
• Latih dan evaluasi pada mini-imagenet.
• Klarifikasi pengaturan transduktif vs non-transduktif.
• Tambahkan kurva pelatihan di ReadMe.
• Reproduksi semua pengaturan dari kode OpenAI.
• Skrip shell untuk mengunduh kumpulan data

Cara berlatih di omniglot

Unduh dua bagian dataset Omniglot:

• https://github.com/brendenlake/omniglot/raw/master/python/images_background.zip
• https://github.com/brendenlake/omniglot/blob/master/python/images_evaluuation.zip

Buat omniglot/ folder di repo, unzip dan gabungkan kedua file untuk memiliki struktur folder berikut:

 ./train_omniglot.py
...
./omniglot/Alphabet_of_the_Magi/
./omniglot/Angelic/
./omniglot/Anglo-Saxon_Futhorc/
...
./omniglot/ULOG/

Sekarang mulailah berlatih dengan

 python train_omniglot.py log --cuda 0 $HYPERPARAMETERS  # with CPU
python train_omniglot.py log $HYPERPARAMETERS  # with CUDA

Di mana $ hyperparameter tergantung pada tugas dan hiperparameter Anda.

Perilaku:

• Jika tidak ada pos pemeriksaan yang ditemukan di log/ , ini akan membuat log/ folder untuk menyimpan informasi dan pos pemeriksaan Tensorboard.
• Jika pos pemeriksaan ditemukan di log/ , ini akan dilanjutkan dari pos pemeriksaan terakhir.

Pelatihan dapat terganggu kapan saja dengan ^C , dan dilanjutkan dari pos pemeriksaan terakhir dengan menjalankan kembali perintah yang sama.

Omniglot hyperparameters

Set hiperparameter berikut berfungsi dengan baik. Mereka diambil dari implementasi OpenAI tetapi sedikit diadaptasi untuk meta-batch=1 .

Untuk 5-arah 5-shot (kurva merah):

python train_omniglot.py log/o55 --classes 5 --shots 5 --train-shots 10 --meta-iterations 100000 --iterations 5 --test-iterations 50 --batch 10 --meta-lr 0.2 --lr 0.001

Untuk 5-arah 1-shot (Kurva Biru):

python train_omniglot.py log/o51 --classes 5 --shots 1 --train-shots 12 --meta-iterations 200000 --iterations 12 --test-iterations 86 --batch 10 --meta-lr 0.33 --lr 0.00044

Referensi

• Kertas Asli: Alex Nichol, Joshua Achiam, John Schulman. "Pada algoritma meta-pembelajaran orde pertama".
• Posting Blog Openai. Lihatlah, mereka memiliki demo online yang sepenuhnya berjalan di JavaScript!
• Kode Asli di TensorFlow: https://github.com/openai/supervised-reptile