language planner

Model bahasa sebagai perencana zero-shot:
Mengekstraksi pengetahuan yang dapat ditindaklanjuti untuk agen yang diwujudkan

[Halaman Proyek] [kertas] [Video]

Wenlong Huang ¹ , Pieter Abbeel ¹ , Deepak Pathak* ² , Igor Mordatch* ³ (* Penasihat yang sama)

¹ University of California, Berkeley, ² Carnegie Mellon University, ³ Google Brain

Ini adalah kode demo resmi untuk model bahasa kami sebagai kertas perencana zero-shot. Kode ini menunjukkan bagaimana model bahasa besar, seperti GPT-3 dan Codex, dapat menghasilkan rencana aksi untuk aktivitas manusia yang kompleks (misalnya "membuat sarapan"), bahkan tanpa pelatihan lebih lanjut. Kode ini dapat digunakan dengan model bahasa yang tersedia dari OpenAI API dan Transformers Huggingface dengan antarmuka umum.

Jika Anda menemukan pekerjaan ini berguna dalam penelitian Anda, silakan kutip menggunakan Bibtex berikut:

 @article { huang2022language ,
      title = { Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents } ,
      author = { Huang, Wenlong and Abbeel, Pieter and Pathak, Deepak and Mordatch, Igor } ,
      journal = { arXiv preprint arXiv:2201.07207 } ,
      year = { 2022 }
    }

Pengaturan lokal atau terbuka di Colab

Persyaratan

• Python = 3.6.13
• CUDA = 11.3

Petunjuk Pengaturan

git clone https://github.com/huangwl18/language-planner.git
cd language-planner/
conda create --name language-planner-env python=3.6.13
conda activate language-planner-env
pip install --upgrade pip
pip install -r requirements.txt

Kode berjalan

Lihat demo.ipynb (OR) untuk walk-through lengkap dari metode kami. Jangan ragu untuk bereksperimen dengan tugas -tugas rumah tangga apa pun yang Anda buat (atau tugas apa pun di luar domain rumah tangga jika Anda memberikan tindakan yang diperlukan di available_actions.json )!

Catatan:

• Diamati bahwa hasil terbaik dapat diperoleh dengan model bahasa yang lebih besar. Jika Anda tidak dapat menjalankan model Transformers Huggingface secara lokal atau di Google Colab karena kendala memori, disarankan untuk mendaftarkan akun API OpenAI dan menggunakan GPT-3 atau Codex (pada 01/2022, kredit gratis $ 18 diberikan kepada akun baru dan Codex Series gratis setelah diterima dari daftar tunggu).
• Karena sensitivitas tinggi model bahasa terhadap pengambilan sampel hiperparameter, Anda mungkin perlu menyetel hyperparameters pengambilan sampel untuk model yang berbeda untuk mendapatkan hasil terbaik.
• Kode ini menggunakan daftar tindakan yang tersedia yang didukung dalam simulator grafik VirtualHome 1.0 yang berkembang. Tindakan yang tersedia disimpan di available_actions.json . Tindakan harus mendukung berbagai tugas rumah tangga. Namun, Anda dapat memodifikasi atau mengganti file ini jika Anda tertarik pada serangkaian tindakan yang berbeda atau domain tugas yang berbeda (di luar domain rumah tangga).
• Subset dari contoh yang dianotasi secara manual yang awalnya dikumpulkan oleh kertas virtualhome digunakan sebagai contoh yang tersedia di prompt. Mereka diubah menjadi format bahasa alami dan disimpan di available_examples.json . Jangan ragu untuk mengubah file ini untuk berbagai contoh yang tersedia.