language planner

Modelos de idiomas como planejadores de tiro zero:
Extraindo o conhecimento acionável para agentes incorporados

[Página do projeto] [Paper] [Vídeo]

Wenlong Huang ¹ , Pieter Abbeel ¹ , Deepak Pathak* ² , Igor Mordatch* ³ (* aconselhamento igual)

¹ Universidade da Califórnia, Berkeley, ² Carnegie Mellon University, ³ Google Brain

Este é o código de demonstração oficial para nossos modelos de idiomas como papel dos planejadores de tiro zero. O código demonstra como os grandes modelos de linguagem, como GPT-3 e Codex, podem gerar planos de ação para atividades humanas complexas (por exemplo, "fazer café da manhã"), mesmo sem nenhum treinamento adicional. O código pode ser usado com todos os modelos de idiomas disponíveis da API OpenAI e Transformers do HuggingFace com uma interface comum.

Se você achar este trabalho útil em sua pesquisa, cite usando o seguinte Bibtex:

 @article { huang2022language ,
      title = { Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents } ,
      author = { Huang, Wenlong and Abbeel, Pieter and Pathak, Deepak and Mordatch, Igor } ,
      journal = { arXiv preprint arXiv:2201.07207 } ,
      year = { 2022 }
    }

Configuração local ou aberto em colab

Requisitos

• Python = 3.6.13
• CUDA = 11.3

Instruções de configuração

git clone https://github.com/huangwl18/language-planner.git
cd language-planner/
conda create --name language-planner-env python=3.6.13
conda activate language-planner-env
pip install --upgrade pip
pip install -r requirements.txt

Código de execução

Consulte demo.ipynb (OR) para obter uma apresentação completa do nosso método. Sinta -se à vontade para experimentar quaisquer tarefas domésticas que você invente (ou quaisquer tarefas além do domínio doméstico, se você fornecer as ações necessárias em available_actions.json )!

Observação:

• Observa -se que os melhores resultados podem ser obtidos com modelos de linguagem maiores. Se você não puder executar modelos de Transformers Huggingface localmente ou no Google Colab devido a restrições de memória, recomenda-se registrar uma conta da API OpenAI e usar o GPT-3 ou o Codex (a partir de 01/2022, US $ 18 créditos gratuitos são concedidos a novas contas e as séries Codex serão gratuitas após a admissão da lista de espera).
• Devido à alta sensibilidade dos modelos de idiomas aos hiperparâmetros de amostragem, pode ser necessário ajustar os hiperparâmetros de amostragem para diferentes modelos para obter os melhores resultados.
• O código usa a lista de ações disponíveis suportadas no simulador de gráficos em evolução do VirtualHome 1.0. As ações disponíveis são armazenadas em available_actions.json . As ações devem apoiar uma grande variedade de tarefas domésticas. No entanto, você pode modificar ou substituir esse arquivo se estiver interessado em um conjunto diferente de ações ou em um domínio diferente de tarefas (além do domínio doméstico).
• Um subconjunto dos exemplos anotados manualmente originalmente coletados pelo artigo VirtualHome é usado como exemplos disponíveis no prompt. Eles são transformados em formato de linguagem natural e armazenados em available_examples.json . Sinta -se à vontade para alterar esse arquivo para um conjunto diferente de exemplos disponíveis.