language planner

Языковые модели как планировщики с нулевым выстрелом:
Извлечение действенных знаний для воплощенных агентов

[Страница проекта] [Paper] [Видео]

Wenlong Huang ¹ , Pieter Abbeel ¹ , Deepak Pathak* ² , Igor Mordatch* ³ (* Равное консультирование)

¹ Калифорнийский университет, Беркли, ² Университета Карнеги -Меллона, ³ Google Brain

Это официальный демонстрационный код для наших языковых моделей в качестве бумаги планировщиков с нулевым выстрелом. Код демонстрирует, как крупные языковые модели, такие как GPT-3 и Codex, могут генерировать планы действий для сложной человеческой деятельности (например, «сделать завтрак»), даже без каких-либо дальнейших тренировок. Код можно использовать с любыми доступными языковыми моделями от API OpenAI и трансформаторов HuggingFace с общим интерфейсом.

Если вы найдете эту работу полезной в своем исследовании, пожалуйста, цитируйте следующее Bibtex:

 @article { huang2022language ,
      title = { Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents } ,
      author = { Huang, Wenlong and Abbeel, Pieter and Pathak, Deepak and Mordatch, Igor } ,
      journal = { arXiv preprint arXiv:2201.07207 } ,
      year = { 2022 }
    }

Локальная установка или открыта в Колабе

Требования

• Python = 3,6,13
• CUDA = 11,3

Инструкции по настройке

git clone https://github.com/huangwl18/language-planner.git
cd language-planner/
conda create --name language-planner-env python=3.6.13
conda activate language-planner-env
pip install --upgrade pip
pip install -r requirements.txt

Запуск кода

См. demo.ipynb (или) для полного прохождения нашего метода. Не стесняйтесь экспериментировать с любыми домашними задачами, которые вы придумываете (или любые задачи, выходящие за рамки домохозяйства, если вы предоставляете необходимые действия в available_actions.json )!

Примечание:

• Наблюдается, что лучшие результаты могут быть получены с помощью более крупных языковых моделей. Если вы не можете запустить модели трансформаторов HuggingFace Locally или в Google Colab из-за ограничений памяти, рекомендуется зарегистрировать учетную запись API OpenAI и использовать GPT-3 или Codex (по состоянию на 01/2022, 18 долларов бесплатные кредиты присуждаются на новые учетные записи, а серия Codex бесплатно, после того, как поступили из списка ожидания).
• Из -за высокой чувствительности языковых моделей к отбору отбора проб гиперпараметров вам может потребоваться настроить выборки гиперпараметров для различных моделей, чтобы получить наилучшие результаты.
• В коде используется список доступных действий, поддерживаемых в эмуляторном графическом симуляторе VirtualHome 1.0. Доступные действия хранятся в available_actions.json . Действия должны поддерживать большое разнообразие домашних задач. Тем не менее, вы можете изменить или заменить этот файл, если вы заинтересованы в другом наборе действий или в другой области задач (за пределами домана домохозяйства).
• Подмножество примеров, аннотируемых вручную, первоначально собранных с помощью виртуальной бумаги, используется в качестве доступных примеров в приглашении. Они трансформируются в формат естественного языка и хранятся в available_examples.json . Не стесняйтесь изменить этот файл для другого набора доступных примеров.