language planner

제로 샷 플래너로서 언어 모델 :
구체화 된 제제를위한 실행 가능한 지식 추출

[프로젝트 페이지] [종이] [비디오]

Wenlong Huang ¹ , Pieter Abbeel ¹ , Deepak Pathak* ² , Igor Mordatch* ³ (* 동등한 조언)

¹ 캘리포니아 대학교, 버클리, ² Carnegie Mellon University, ³ Google Brain

이것은 제로 샷 플래너 종이로서 언어 모델의 공식 데모 코드입니다. 이 코드는 GPT-3 및 Codex와 같은 큰 언어 모델이 추가 교육 없이도 복잡한 인간 활동 (예 : "아침 식사")에 대한 행동 계획을 생성 할 수있는 방법을 보여줍니다. 이 코드는 OpenAI API 및 공통 인터페이스가있는 HuggingFace Transformers의 사용 가능한 모든 언어 모델과 함께 사용할 수 있습니다.

이 작업이 연구에 유용하다고 생각되면 다음 Bibtex를 사용하여 인용하십시오.

 @article { huang2022language ,
      title = { Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents } ,
      author = { Huang, Wenlong and Abbeel, Pieter and Pathak, Deepak and Mordatch, Igor } ,
      journal = { arXiv preprint arXiv:2201.07207 } ,
      year = { 2022 }
    }

Colab에서 로컬 설정 또는 개방

요구 사항

• 파이썬 = 3.6.13
• CUDA = 11.3

설정 지침

git clone https://github.com/huangwl18/language-planner.git
cd language-planner/
conda create --name language-planner-env python=3.6.13
conda activate language-planner-env
pip install --upgrade pip
pip install -r requirements.txt

실행 코드

우리의 방법에 대한 완전한 연습은 demo.ipynb (또는)를 참조하십시오. 당신이 생각 해낸 가정의 과제 (또는 available_actions.json 에서 필요한 조치를 제공하는 경우 가구 영역 이외의 과제)를 실험하십시오!

메모:

• 더 큰 언어 모델로 최상의 결과를 얻을 수있는 것으로 관찰됩니다. 메모리 제약으로 인해 현지 또는 Google Colab에서 HuggingFace Transformers 모델을 실행할 수없는 경우 OpenAI API 계정을 등록하고 GPT-3 또는 Codex를 사용하는 것이 좋습니다 (01/2022 기준으로는 $ 18의 무료 크레디트가 새로운 계정에 수여되며 Codex 시리즈는 대기자 명단에서 무료로 제공됩니다).
• 언어 모델의 초 파라미터 샘플링에 대한 높은 민감도로 인해 최상의 결과를 얻으려면 다양한 모델에 대해 샘플링 하이퍼 파라미터를 조정해야 할 수도 있습니다.
• 이 코드는 Virtualhome 1.0의 진화 그래프 시뮬레이터에서 지원되는 사용 가능한 조치 목록을 사용합니다. 사용 가능한 조치는 available_actions.json 에 저장됩니다. 이 조치는 다양한 가계 작업을 지원해야합니다. 그러나 다른 작업 세트 나 다른 작업 영역 (가정 영역을 넘어서)에 관심이있는 경우이 파일을 수정하거나 교체 할 수 있습니다.
• Virtualhome 용지에 의해 원래 수집 된 수동 주석화 된 예제의 서브 세트는 프롬프트에서 사용 가능한 예제로 사용됩니다. 그것들은 자연어 형식으로 변환되어 available_examples.json 에 저장됩니다. 사용 가능한 다른 예제에 대해이 파일을 자유롭게 변경하십시오.