Awesome Prompt Engineering

멋진 프롬프트 엔지니어링? ‍ 대추야

이 저장소에는 생성 미리 훈련 된 변압기 (GPT), Chatgpt, Palm 등에 중점을 둔 신속한 엔지니어링을위한 손으로 구축 된 리소스가 포함되어 있습니다.

   Prompt Engineering Course is coming soon..

목차

• 서류
• 도구 및 코드
• 아피스
• 데이터 세트
• 모델
• AI 컨텐츠 감지기
• 교육
  • 행동
  • 튜토리얼
• 비디오
• 서적
• 커뮤니티
• 기여하는 방법

서류

?

• 신속한 엔지니어링 기술 :

  • 프롬프트 엔지니어링을위한 텍스트 마이닝 : PLMS를 통한 텍스트를 구축 한 오픈 지식 그래프 완료 [2023] (ACL)
  • ChatGpt [2023] (ARXIV)로 신속한 엔지니어링을 향상시키기위한 신속한 패턴 카탈로그
  • 쉽게 만들어진 하드 프롬프트 : 신속한 튜닝 및 발견을위한 그라디언트 기반 이산 최적화 [2023] (ARXIV)
  • 합성 프롬프트 : 대형 언어 모델에 대한 생각의 체인 시연 생성 [2023] (ARXIV)
  • 진보적 프롬프트 : 언어 모델에 대한 지속적인 학습 [2023] (ARXIV)
  • 배치 프롬프트 : LLM API에 대한 효율적인 추론 [2023] (ARXIV)
  • 복잡한 질문이 완성 된 연속 프롬프트 [2022] (ARXIV)
  • 구조화 된 프롬프트 : 텍스트 내 학습 스케일링 1,000 예로 [2022] (ARXIV)
  • 대형 언어 모델은 인간 수준의 프롬프트 엔지니어입니다 [2022] (ARXIV)
  • 물어보세요 : 언어 모델을위한 간단한 전략 [2022] (ARXIV)
  • GPT-3이 신뢰할 수있는 2022로 프롬프트
  • 분해 프롬프트 : 복잡한 작업을 해결하기위한 모듈 식 접근 [2022] (ARXIV)
  • Promptchainer : 시각적 프로그래밍을 통한 대형 언어 모델 프롬프트 체인 [2022] (ARXIV)
  • 확산 모델에서의 신속한 엔지니어링 조사 [2022] (ARXIV)
  • 작업 표시 : 언어 모델과의 중간 계산을위한 스크래치 패드 [2021] (ARXIV)
  • GPTK의 언어에 대한 수업 프롬프트 (2021) (ARXIV)
  • 환상적으로 주문한 프롬프트와 찾을 수있는 곳 : 소수의 프롬프트 순서 민감도 극복 [2021] (ARXIV)
  • 매개 변수 효율적인 프롬프트 튜닝을위한 스케일의 전력 [2021] (ARXIV)
  • 대형 언어 모델에 대한 신속한 프로그래밍 : 소수의 패러다임을 넘어서 [2021] (ARXIV)
  • 접두사 조정 : 세대를위한 연속 프롬프트 최적화 [2021] (ARXIV)

• 추론 및 텍스트 학습 :

  • 언어 모델에서의 멀티 모달 추론 추론 [2023] (ARXIV)
  • 두 번째 생각으로, 단계별로 생각하지 마십시오! 제로 샷 추론의 편견과 독성 [2022] (ARXIV)
  • React : 언어 모델에서의 시너지 효과 및 행동 [2022] (ARXIV)
  • 언어 모델은 탐욕스러운 추론 자입니다 : 체계의 체계적인 공식 분석 [2022] (ARXIV)
  • 언어 모델을 더 나은 추론 자로 만드는 발전 [2022] (ARXIV)
  • 대형 언어 모델은 제로 샷 추론입니다 [2022] (ARXIV)
  • 프로그램 집행자와 같은 추론 [2022] (ARXIV)
  • 자기 일관성은 언어 모델에서 사고 추론의 사슬을 향상시킵니다 [2022] (ARXIV)
  • 시연의 역할 재고 : 텍스트 내 학습이 효과가있는 것은 무엇입니까? [2022] (Arxiv)
  • 설명 배우기 : 과학에 대한 사고 체인을 통한 멀티 모달 추론 답변 [2022] (ARXIV)
  • 프롬프트의 사슬은 큰 언어 모델에서 추론을 유도합니다 [2021] (ARXIV)
  • 상식 추론을위한 생성 지식 [2021] (ARXIV)
  • Bertese : Bert와 대화하는 법 배우기 [2021] (ACL)

• 언어 모델 평가 및 개선 :

  • 큰 언어 모델은 관련없는 맥락에 의해 쉽게 산만해질 수 있습니다 [2023] (ARXIV)
  • 언어 모델의 내부 지식 기반 크롤링 [2023] (ARXIV)
  • 모델 작성된 평가를 통해 언어 모델 행동 발견 [2022] (ARXIV)
  • 사용 전 교정 : 언어 모델의 소수의 성능 향상 [2021] (ARXIV)

• 언어 모델의 응용 프로그램 :

  • Rephrase 및 응답 : 대형 언어 모델이 스스로 더 나은 질문을하자 [2023] (ARXIV)
  • 멀티 모달 증오 밈 분류에 대한 프롬프트 [2023] (ARXIV)
  • 장소 : 사회 대화 합성을위한 언어 모델 프롬프트 [2023] (ARXIV)
  • 통제 가능한 공감 대화 세대를위한 상식 인식 프롬프트 [2023] (ARXIV)
  • PAL : 프로그램 보조 언어 모델 2023
  • 다국어 법적 판단 예측을위한 법적 신속한 엔지니어링 [2023] (ARXIV)
  • Copilot과의 대화 : 자연어를 사용하여 CS1 문제 해결을위한 신속한 엔지니어링 탐색 [2022] (ARXIV)
  • 사전 훈련 된 언어 모델에서 스크래치에서 글쓰기 [2022] (ACL)
  • AutoPrompt : 자동으로 생성 된 프롬프트가있는 언어 모델에서 지식을 유발합니다 [2020] (ARXIV)

• 위협 탐지 및 대적 사례 :

  • 헌법 AI : AI 피드백의 무해함 [2022] (ARXIV)
  • 이전 프롬프트 무시 : 언어 모델에 대한 공격 기술 [2022] (ARXIV)
  • 기계 생성 텍스트 : 위협 모델 및 탐지 방법에 대한 포괄적 인 조사 [2022] (ARXIV)
  • 수제 적대적 사례를 통해 미리 훈련 된 언어 모델의 감수성 평가 [2022] (ARXIV)
  • 생성 프롬프트 기반 추론을 사용한 독성 검출 [2022] (ARXIV)
  • 언어 모델이 무엇을 알고 있는지 어떻게 알 수 있습니까? [2020] (MIT)

• 소수의 학습 및 성능 최적화 :

  • Promptagator : 8 가지 예에서 몇 번의 고밀도 검색 [2022] (ARXIV)
  • 텍스트 추론을위한 소수의 샷 프롬프트에서 설명의 신뢰도 [2022] (ARXIV)
  • 미리 훈련 된 언어 모델을 더 나은 소수의 학습자 [2021] (ACL)
  • 언어 모델은 소수의 학습자입니다 [2020] (ARXIV)

• 이미지 생성 텍스트 :

  • 텍스트-이미지 생성을위한 신속한 수정 자 분류 [2022] (ARXIV)
  • 신속한 엔지니어링 텍스트-이미지 생성 모델을위한 설계 지침 [2021] (ARXIV)
  • 잠복 확산 모델을 사용한 고해상도 이미지 합성 [2021] (ARXIV)
  • Dall · e : 텍스트에서 이미지 만들기 [2021] (arxiv)

• 음악/사운드 생성 텍스트 :

  • Musiclm : 텍스트에서 음악 생성 [2023] (arxiv)
  • Ernie-Music : 확산 모델이있는 텍스트-파형 음악 생성 [2023] (ARXIV)
  • NOISE2MUSIC : 확산 모델이있는 텍스트 조건 음악 생성 [2023) (ARXIV)
  • Audiolm : 오디오 생성에 대한 언어 모델링 접근법 [2023] (ARXIV)
  • Make-an-Audio : 프롬프트 강화 확산 모델이있는 텍스트-오디오 생성 [2023] (ARXIV)

• 비디오 생성 텍스트 :

  • Dreamix : 비디오 확산 모델은 일반 비디오 편집기 [2023] (ARXIV)입니다.
  • Tune-A-Video : 텍스트-비디오 생성을위한 이미지 확산 모델의 원샷 튜닝 [2022] (ARXIV)
  • NOISE2MUSIC : 확산 모델이있는 텍스트 조건 음악 생성 [2023) (ARXIV)
  • Audiolm : 오디오 생성에 대한 언어 모델링 접근법 [2023] (ARXIV)

• 개요 :

  • Copilot 및 Codex 파일럿 : 뜨거운 온도, 차가운 프롬프트 또는 흑 마법? [2022] (Arxiv)

도구 및 코드

?

이름	설명	URL
llamaindex	Llamaindex는 LLM과 함께 대형 외부 지식 기반을보다 쉽게 ​​사용할 수 있도록 설계된 일련의 데이터 구조로 구성된 프로젝트입니다.	[github]
프롬프트	LLM의 NLP 문제를 해결하고 GPT, Palm 등과 같은 인기있는 생성 모델에 대한 다양한 NLP 작업 프롬프트를 쉽게 생성하십시오.	[github]
아르 크리 니 닉스	노트북 환경에서 실행되는 ML 관측 성을위한 오픈 소스 도구. LLM, CV 및 Tabular 모델을 모니터링 및 미세 조정합니다.	[github]
더 나은 프롬프트	LLM 프롬프트에 대한 테스트 스위트는 Prod로 밀기 전에	[github]
혜성	LLM 프롬프트, 프롬프트 템플릿, 프롬프트 변수, 메타 데이터 등을 로그, 시각화 및 평가합니다.	[github]
embedchain	데이터 세트를 통해 봇과 같은 chatgpt를 만드는 프레임 워크	[github]
대화식 구성 Explorerx	ICE는 언어 모델 프로그램을위한 파이썬 라이브러리 및 추적 시각화 제입니다.	[github]
커다란 건초 더미	LLM 및 변압기를 사용하여 데이터와 상호 작용하는 오픈 소스 NLP 프레임 워크.	[github]
Langchainx	합성 가능성을 통해 LLM으로 응용 프로그램 구축	[github]
OpenPrompt	프롬프트 학습을위한 오픈 소스 프레임 워크	[github]
프롬프트 엔진	이 repo에는 대형 언어 모델 (LLM)의 프롬프트를 만들고 유지 관리하기위한 NPM 유틸리티 라이브러리가 포함되어 있습니다.	[github]
Promptinject	Promptinject는 모듈 식 방식으로 프롬프트를 조립하여 LLM의 견고성에 대한 적대적 프롬프트 공격에 대한 정량적 분석을 제공하는 프레임 워크입니다.	[github]
프롬프트 AI	GPT-3의 고급 놀이터	[github]
프롬프트 소스	PrompTsource는 자연어 프롬프트를 만들고 공유 및 사용하기위한 툴킷입니다.	[github]
생각 소스	기계 사고 과학을위한 틀	[github]
프롬프트 메테우스	원 쇼 프롬프트 엔지니어링 툴킷	[도구]
AI 구성	LLM을 사용하여 응용 프로그램을 구축하기위한 오픈 소스 구성 기반 프레임 워크	[github]
마지막 마일 AI	다른 양식에 걸쳐 LLM과 상호 작용하기위한 노트북 유사 놀이터 (텍스트, 음성, 오디오, 이미지)	[도구]
xpulsai	확장 가능한 AI 앱을 쉽게 구축합니다. AI & ML 용 AUTOOPS 플랫폼	[도구]
요원	Agenta는 오픈 소스 LLM 개발자 플랫폼으로, 신속한 관리, 평가, 인간 피드백 및 배포를위한 도구가 한 곳에서 모두 있습니다.	[github]
프롬프트	LLM {productured} 작업 개발, 테스트 및 모니터링	[도구]

아피스

이름	설명	URL	유료 또는 오픈 소스
Openai	자연 언어 작업의 경우 GPT-N, 자연 언어를 코드로 번역하는 Codex, 원본 이미지를 제작하고 편집하는 Dall · E	[Openai]	유급의
Cohereai	Cohere는 하나의 API를 통해 고급 대형 언어 모델 및 NLP 도구에 대한 액세스를 제공합니다.	[Cohereai]	유급의
인류	곧 올 것입니다	[의인성]	유급의
FLAN-T5 XXL	곧 올 것입니다	[Huggingface]	오픈 소스

데이터 세트

?

이름	설명	URL
P3 (공개 프롬프트 풀)	P3 (Public Pool of Prompts)은 다양한 NLP 작업 세트를 다루는 프롬프트 된 영어 데이터 세트 모음입니다.	[Huggingface]
멋진 chatgpt 프롬프트	Repo에는 Chatgpt Promp Curation이 포함되어 Chatgpt를 더 잘 사용합니다.	[github]
글쓰기 프롬프트	온라인 포럼 (Reddit)의 글쓰기 프롬프트와 짝을 이루는 300K 인간이 작성한 이야기의 대규모 데이터 세트 모음	[Kaggle]
미드 주니 프롬프트	MidJourney의 공개 불일치 서버에서 긁힌 텍스트 프롬프트 및 이미지 URL	[Huggingface]

모델

?

이름	설명	URL
chatgpt	chatgpt	[Openai]
사본	Codex 모델은 코드를 이해하고 생성 할 수있는 GPT-3 모델의 후손입니다. 그들의 교육 데이터에는 자연 언어와 Github의 수십억 개의 공공 코드가 모두 포함됩니다.	[github]
꽃	Bigscience 대형 오픈 과학 오픈 액세스 다국어 언어 모델	[Huggingface]
Facebook LLM	OPT-175B는 메타에 의해 훈련 된 GPT-3 등가 모델입니다. 그것은 1,750 억 개의 매개 변수로 사용할 수있는 가장 큰 사기 언어 모델입니다.	[ALPA]
gpt-neox	GPT-NEOX-20B, 200 억 파라미터 자동 회귀 언어 모델은 더미에 훈련되었습니다.	[Huggingface]
FLAN-T5 XXL	FLAN-T5는 명령 조정 모델이며, 이는 프롬프트의 일부로 지시 사항이 주어지면 제로 샷과 같은 동작을 나타냅니다.	[Huggingface/Google]
XLM-ROBERTA-XL	XLM-Roberta-XL 모델 100 개 언어를 포함하는 2.5TB의 필터링 된 CommonCrawl 데이터에서 미리 훈련되었습니다.	[Huggingface]
GPT-J	파일 데이터 세트에서 훈련 된 GPT-2와 같은 인과 관계 모델입니다.	[Huggingface]
Palm-Rlhf-Pytorch	팜 아키텍처 위에 RLHF (인간 피드백을 통한 강화 학습) 구현. 기본적으로 채팅하지만 팜과 함께	[github]
gpt-neo	Mesh-Tensorflow 라이브러리를 사용하여 모델 병렬 GPT-2 및 GPT-3 스타일 모델의 구현.	[github]
LAMDA-RLHF-PYTORCH	Pytorch에서 Google Lamda의 오픈 소스 사전 훈련 구현. chatgpt와 유사한 rlhf 추가.	[github]
RLHF	인간 피드백으로부터 강화 학습 구현 (RLHF)	[github]
GLM-130B	GLM-130B : 개방형 이중 언어 미리 훈련 된 모델	[github]
Mixtral-84b	Mixtral-84b는 MLP 당 8 명의 전문가와 전문가 (MOE) 모델의 혼합물입니다.	[Huggingface]

AI 컨텐츠 감지기

?

이름	설명	URL
AI 텍스트 분류기	AI 텍스트 분류기는 chatgpt와 같은 다양한 소스에서 AI에 의해 텍스트 조각을 생성했을 가능성이 얼마나 될지 예측하는 미세 조정 GPT 모델입니다.	[Openai]
GPT-2 출력 검출기	이것은 Roberta의?/Transformers 구현을 기반으로 GPT-2 출력 검출기 모델의 온라인 데모입니다.	[Huggingface]
Openai 탐지기	AI 작성 텍스트를 나타내는 AI 분류기 (OpenAi Detector Python Wapper)	[github]

행동

? ‍?

• DeePlearning.ai의 개발자를위한 ChatGpt 프롬프트 엔지니어링
• deeplearning.ai의 비전 모델을위한 신속한 엔지니어링

튜토리얼

• 프롬프트 엔지니어링 소개

  • 프롬프트 엔지니어링 101- 소개 및 리소스
  • 프롬프트 엔지니어링 101
  • Sudalairajkumar의 신속한 엔지니어링 안내서

• 생성 언어 모델에 대한 초보자 안내서

  • 생성 언어 모델에 대한 초보자 친화적 인 가이드 -Lambda Guide
  • 코어가있는 생성 AI : 1 부 - 모델 프롬프트

• 신속한 엔지니어링을위한 모범 사례

  • OpenAI API를 통한 신속한 엔지니어링 모범 사례
  • 좋은 프롬프트를 작성하는 방법

• 프롬프트 엔지니어링에 대한 완전한 가이드

  • 대형 언어 모델을위한 신속한 엔지니어링을위한 완전한 소개
  • 신속한 엔지니어링 안내서 : 완벽한 프롬프트를 설계하는 방법

• 신속한 엔지니어링의 기술적 측면

  • 3 GPT-3을 사용한 신속한 엔지니어링 원칙
  • Chatgpt 프롬프트 엔지니어링을위한 일반 프레임 워크
  • 프롬프트 프로그래밍 방법

• 신속한 엔지니어링을위한 리소스

  • 멋진 chatgpt 프롬프트
  • 최상의 100+ 안정적인 확산 프롬프트
  • Dalle 프롬프트 책
  • Openai 요리 책
  • Microsoft의 신속한 엔지니어링

비디오

?

• 고급 chatgpt 프롬프트 엔지니어링
• ChatGpt : 초보자를위한 5 개의 신속한 엔지니어링 비밀
• CMU 고급 NLP 2022 : 프롬프트
• 신속한 엔지니어링 - 새로운 직업?
• Chatgpt 가이드 : 더 나은 프롬프트로 결과 10 배
• 언어 모델 및 신속한 엔지니어링 : NLP의 프롬프트 방법에 대한 체계적인 조사
• 프롬프트 엔지니어링 101 : 자동 완성, 제로 샷, 원샷 및 소수의 프롬프트

커뮤니티

?

• Openai Discord
• 프롬프트 슬래브 불화
• 프롬프트를 배우십시오
• r/chatgpt discord
• 미드 주니 불화

기여하는 방법

우리는이 목록에 기여를 환영합니다! 사실, 이것이 제가 만든 주된 이유입니다. 기여를 장려하고 사람들이 LLM (Lange of Langer Language Models) 및 프롬프트 엔지니어링의 새롭고 흥미로운 발전에 대한 정보를 유지하기 위해 변경 사항을 구독하도록 장려합니다.

기부하기 전에 잠시 시간을내어 기여 가이드 라인을 검토하십시오. 이 가이드 라인은 귀하의 기여가 당사의 목표와 일치하고 품질과 관련성에 대한 표준을 충족하도록하는 데 도움이됩니다. 이 프로젝트에 기여하는 데 관심을 가져 주셔서 감사합니다!

이미지 출처 : docs.cohere.ai