language planner

Sprachmodelle als Null-Shot-Planer:
Extrahieren von umsetzbarem Wissen für verkörperte Wirkstoffe

[Projektseite] [Papier] [Video]

Wenlong Huang ¹ , Pieter Abbeel ¹ , Deepak Pathak* ² , Igor Mordatch* ³ (* gleichberechtigte Beratung)

¹ Universität von Kalifornien, Berkeley, ² Carnegie Mellon University, ³ Google Brain

Dies ist der offizielle Demo-Code für unsere Sprachmodelle als planerpapier mit Null-Shot-Planern. Der Code zeigt, wie große Sprachmodelle wie GPT-3 und Codex auch ohne weiteres Training Aktionspläne für komplexe menschliche Aktivitäten (z. B. "Frühstück machen") erzeugen können. Der Code kann mit allen verfügbaren Sprachmodellen von OpenAI -API und Huggingface -Transformatoren mit einer gemeinsamen Schnittstelle verwendet werden.

Wenn Sie diese Arbeit in Ihrer Forschung nützlich finden, zitieren Sie bitte mit den folgenden Bibtex:

 @article { huang2022language ,
      title = { Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents } ,
      author = { Huang, Wenlong and Abbeel, Pieter and Pathak, Deepak and Mordatch, Igor } ,
      journal = { arXiv preprint arXiv:2201.07207 } ,
      year = { 2022 }
    }

Lokales Setup oder offen in Colab

Anforderungen

• Python = 3,6.13
• CUDA = 11,3

Setup -Anweisungen

git clone https://github.com/huangwl18/language-planner.git
cd language-planner/
conda create --name language-planner-env python=3.6.13
conda activate language-planner-env
pip install --upgrade pip
pip install -r requirements.txt

Auslaufcode

Siehe demo.ipynb (OR) für einen vollständigen Durchgang unserer Methode. Fühlen Sie sich frei, mit allen Haushaltsaufgaben zu experimentieren, die Sie erledigen (oder alle Aufgaben, die über die Haushaltsdomäne hinausgehen, wenn Sie die erforderlichen Maßnahmen in available_actions.json vorlegen)!

Notiz:

• Es wird beobachtet, dass die besten Ergebnisse mit größeren Sprachmodellen erzielt werden können. Wenn Sie die Modelle von Huggingface-Transformatoren aufgrund von Speicherbeschränkungen nicht lokal oder auf Google Colab ausführen können, wird empfohlen, ein OpenAI-API-Konto zu registrieren und GPT-3 oder Codex zu verwenden (ab dem 01.01.2022 sind 18 US-Dollar kostenlose Credits an neue Konten und Codex-Serie nach der Warteliste kostenlos).
• Aufgrund der hohen Empfindlichkeit der Sprachmodelle gegenüber Abtasthyperparametern müssen Sie möglicherweise die Probenahme -Hyperparameter für verschiedene Modelle einstellen, um die besten Ergebnisse zu erzielen.
• Der Code verwendet die Liste der verfügbaren Aktionen, die im Evolving Graph Simulator von VirtualHome 1.0 unterstützt werden. Die verfügbaren Aktionen werden in available_actions.json gespeichert. Die Maßnahmen sollten eine Vielzahl von Haushaltsaufgaben unterstützen. Sie können diese Datei jedoch ändern oder ersetzen, wenn Sie an anderen Aktionen oder einer anderen Aufgabendomäne (jenseits der Haushaltsdomäne) interessiert sind.
• Eine Untergruppe der manuell annotierten Beispiele, die ursprünglich vom VirtualHome-Papier gesammelt wurden, wird als verfügbare Beispiele in der Eingabeaufforderung verwendet. Sie werden in das natürliche Sprachformat umgewandelt und in available_examples.json gespeichert. Ändern Sie diese Datei für eine andere Reihe verfügbarer Beispiele.