language planner

Modèles linguistiques en tant que planificateurs de tirs zéro:
Extraction de connaissances exploitables pour les agents incarnés

[Page du projet] [Paper] [Vidéo]

Wenlong Huang ¹ , Pieter Abbeel ¹ , Deepak Pathak * ² , Igor Mordatch * ³ (* Adsence égale)

¹ Université de Californie, Berkeley, ² Carnegie Mellon University, ³ Google Brain

Il s'agit du code de démonstration officiel de nos modèles de langue en tant que document de planificateurs zéro. Le code montre comment les grands modèles de langue, tels que GPT-3 et Codex, peuvent générer des plans d'action pour des activités humaines complexes (par exemple, «préparer le petit déjeuner»), même sans autre formation. Le code peut être utilisé avec tous les modèles de langue disponibles à partir de l'API OpenAI et des transformateurs HuggingFace avec une interface commune.

Si vous trouvez ce travail utile dans vos recherches, veuillez citer en utilisant le bibtex suivant:

 @article { huang2022language ,
      title = { Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents } ,
      author = { Huang, Wenlong and Abbeel, Pieter and Pathak, Deepak and Mordatch, Igor } ,
      journal = { arXiv preprint arXiv:2201.07207 } ,
      year = { 2022 }
    }

Configuration locale ou ouverte à Colab

Exigences

• Python = 3,6,13
• Cuda = 11,3

Instructions de configuration

git clone https://github.com/huangwl18/language-planner.git
cd language-planner/
conda create --name language-planner-env python=3.6.13
conda activate language-planner-env
pip install --upgrade pip
pip install -r requirements.txt

Code en cours d'exécution

Voir demo.ipynb (ou) pour une visite complète de notre méthode. N'hésitez pas à expérimenter toutes les tâches ménagères que vous proposez (ou toutes les tâches au-delà du domaine du ménage si vous fournissez les actions nécessaires dans available_actions.json .

Note:

• Il est observé que les meilleurs résultats peuvent être obtenus avec des modèles de langage plus grands. Si vous ne pouvez pas exécuter les modèles de transformateurs HuggingFace localement ou sur Google Colab en raison de la contrainte de mémoire, il est recommandé d'enregistrer un compte API OpenAI et d'utiliser GPT-3 ou Codex (à partir du 01/2022, 18 $ les crédits gratuits sont attribués à de nouveaux comptes et les séries Codex sont gratuites après admis dans la liste d'attente).
• En raison de la haute sensibilité des modèles de langue aux hyperparamètres d'échantillonnage, vous devrez peut-être régler les hyperparamètres d'échantillonnage pour différents modèles pour obtenir les meilleurs résultats.
• Le code utilise la liste des actions disponibles prises en charge dans le simulateur de graphe évolutif de VirtualHome 1.0. Les actions disponibles sont stockées dans available_actions.json . Les actions devraient soutenir une grande variété de tâches ménagères. Cependant, vous pouvez modifier ou remplacer ce fichier si vous êtes intéressé par un ensemble différent d'actions ou un domaine différent de tâches (au-delà du domaine du ménage).
• Un sous-ensemble des exemples annotés manuellement collectés à l'origine par le papier VirtualHome est utilisé comme exemples disponibles dans l'invite. Ils sont transformés en format de langue naturelle et stockés dans available_examples.json . N'hésitez pas à modifier ce fichier pour un ensemble différent d'exemples disponibles.