Awesome Prompt Engineering

很棒的及时工程？‍♂️

该存储库包含用于及时工程的手工策划资源，重点是生成预训练的变压器（GPT），CHATGPT，PALM等

   Prompt Engineering Course is coming soon..

目录

• 文件
• 工具和代码
• 蜜蜂
• 数据集
• 型号
• AI内容探测器
• 教育
  • 课程
  • 教程
• 视频
• 图书
• 社区
• 如何贡献

文件

？

• 及时的工程技术：

  • 及时工程的文本挖掘：通过PLM [2023]（ACL）完成文本增强的开放知识图完成
  • 及时的图案目录，以增强使用Chatgpt [2023]（ARXIV）的及时工程
  • 硬提示变得容易：基于梯度的离散优化用于及时调整和发现[2023]（ARXIV）
  • 合成提示：为大语言模型生成经过思考的示威[2023]（ARXIV）
  • 渐进提示：语言模型的持续学习[2023]（ARXIV）
  • 批处理提示：有效推断LLM API [2023]（ARXIV）
  • 连续提示复杂的问题[2022]（ARXIV）
  • 结构化提示：将缩放在上下文中学习到1,000个示例[2022]（ARXIV）
  • 大型语言模型是人级及时工程师[2022]（ARXIV）
  • 问我任何事情：提示语言模型的简单策略[2022]（ARXIV）
  • 提示GPT-3可靠2022
  • 分解提示：解决复杂任务的模块化方法[2022]（ARXIV）
  • 及时链接：链接大型语言模型通过视觉编程提示[2022]（ARXIV）
  • 在扩散模型[2022]（ARXIV）中研究及时工程
  • 显示您的作品：与语言模型中间计算的SCRATCHPADS [2021]（ARXIV）
  • 将教学提示重新构建为GPTK的语言[2021]（ARXIV）
  • 井井有条的提示和在哪里找到它们：克服几乎没有弹药的订单灵敏度[2021]（arxiv）
  • 参数效率提示调谐的比例力量[2021]（ARXIV）
  • 大型语言模型的及时编程：超越少量范式[2021]（ARXIV）
  • 前缀调整：优化发电的连续提示[2021]（ARXIV）

• 推理和秘密学习：

  • 语言模型中的多模式链中的推理[2023]（ARXIV）
  • 第二次思考，让我们不要逐步思考！零摄推理中的偏差和毒性[2022]（ARXIV）
  • 反应：在语言模型中协同推理和作用[2022]（ARXIV）
  • 语言模型是贪婪的推理：对经营链的系统形式分析[2022]（ARXIV）
  • 在使语言模型的推进之前[2022]（ARXIV）
  • 大型语言模型是零摄影推理器[2022]（ARXIV）
  • 诸如程序执行者[2022]（ARXIV）之类的推理
  • 自洽性改善了语言模型中的思想推理链[2022]（ARXIV）
  • 重新思考示范的作用：是什么使内在的学习工作？ [2022]（arxiv）
  • 学会解释：通过思维链的多模式推理，用于科学问题回答[2022]（ARXIV）
  • 思想链促使人们在大语言模型中引发推理[2021]（ARXIV）
  • 产生的知识促使常识性推理[2021]（ARXIV）
  • 伯特斯：学会与伯特[2021]（ACL）交谈

• 评估和改进语言模型：

  • 大型语言模型很容易被无关的环境分散注意力[2023]（ARXIV）
  • 爬行语言模型的内部知识基础[2023]（ARXIV）
  • 通过模型编写的评估发现语言模型行为[2022]（ARXIV）
  • 使用前校准：改善语言模型的少量性能[2021]（ARXIV）

• 语言模型的应用：

  • 重新响应和回应：让大型语言模型自己提出更好的问题[2023]（ARXIV）
  • 提示多模式仇恨模因分类[2023]（ARXIV）
  • 地点：提示社交对话综合语言模型[2023]（ARXIV）
  • 通用意识促使可控的移情对话产生[2023]（ARXIV）
  • PAL：计划辅助语言模型2023
  • 多语言法律判断预测的法律及时工程[2023]（ARXIV）
  • 与Copilot交谈：探索使用自然语言解决CS1问题的及时工程[2022]（ARXIV）
  • 绘图从头开始训练的语言模型[2022]（ACL）
  • 自动启动：从具有自动生成的提示[2020]（ARXIV）的语言模型中引起知识

• 威胁检测和对抗性例子：

  • 宪法AI：AI反馈[2022]（ARXIV）的无害性
  • 忽略以前的提示：语言模型的攻击技术[2022]（ARXIV）
  • 机器生成的文本：对威胁模型和检测方法的全面调查[2022]（ARXIV）
  • 通过手工制作的对抗示例评估预训练的语言模型的敏感性[2022]（ARXIV）
  • 用基于生成及时的推理[2022]（ARXIV）检测毒性检测
  • 我们怎么知道语言模型知道什么？ [2020]（麻省理工学院）

• 几乎没有学习和绩效优化：

  • 即将：从8个示例[2022]（arxiv）中的射击量很少。
  • 几次解释的不可靠性促使文本推理[2022]（ARXIV）
  • 使预训练的语言模型更好地学习者[2021]（ACL）
  • 语言模型是很少的学习者[2020]（ARXIV）

• 文字到图像生成：

  • 文本对图像生成的及时修饰符的分类法[2022]（ARXIV）
  • 迅速工程文本到图像生成模型的设计指南[2021]（ARXIV）
  • 高分辨率图像合成具有潜扩散模型[2021]（ARXIV）
  • dall·e：从文本[2021]（arxiv）创建图像

• 音乐/声音的文字：

  • Musiclm：从文本[2023]（Arxiv）中生成音乐
  • Ernie Music：传播模型[2023]（ARXIV）的文本到波浪形音乐生成
  • 噪声2Music：带有扩散模型的文本调节音乐生成[2023）（ARXIV）
  • Audiolm：音频生成的语言建模方法[2023]（ARXIV）
  • Make-An-Audio：带有及时增强扩散模型的文本到ADIO生成[2023]（ARXIV）

• 视频生成文字：

  • Dreamix：视频扩散模型是一般视频编辑[2023]（ARXIV）
  • Tune-a-video：文本到视频生成的图像扩散模型的一声调整[2022]（ARXIV）
  • 噪声2Music：带有扩散模型的文本调节音乐生成[2023）（ARXIV）
  • Audiolm：音频生成的语言建模方法[2023]（ARXIV）

• 概述：

  • 驾驶副驾驶和法典：热温，冷提示或黑魔法？ [2022]（arxiv）

工具和代码

？

姓名	描述	URL
Llamaindex	LlamainDex是一个由一组数据结构组成的项目，旨在使使用LLM的大型外部知识库更容易。	[github]
提示	解决了LLM的NLP问题，并轻松生成不同的NLP任务提示，例如GPT，Palm等流行的生成模型，以及Quickify	[github]
Arize-phoenix	在笔记本环境中运行的ML可观察性的开源工具。监视和微调LLM，简历和表格模型。	[github]
更好的提示	在将其推向产品之前，请提示LLM提示	[github]
cometllm	日志，可视化和评估您的LLM提示，提示模板，提示变量，元数据等等。	[github]
嵌入链	在数据集上创建像机器人一样创建chatgpt的框架	[github]
交互式组成探索	ICE是用于语言模型程序的Python库和跟踪可视化器。	[github]
草垛	开源NLP框架可以使用LLMS和Transformers与您的数据进行交互。	[github]
Langchainx	通过合成性通过LLM构建应用程序	[github]
OpenPrompt	及时学习的开源框架	[github]
提示引擎	此存储库包含一个NPM实用程序库，用于创建和维护大型语言模型（LLMS）的提示。	[github]
促进	PickerTinject是一个以模块化方式组装提示的框架，以对LLM的鲁棒性对对抗性及时攻击的鲁棒性进行定量分析。	[github]
提示AI	GPT-3的高级操场	[github]
提示来源	提示Source是用于创建，共享和使用自然语言提示的工具包。	[github]
想法	机器思维科学的框架	[github]
提示	一声及时工程工具包	[工具]
AI配置	一个基于开源配置的框架，用于使用LLMS构建应用程序	[github]
Lastmile ai	类似笔记本的操场，用于与不同方式与LLM互动（文本，语音，音频，图像）	[工具]
Xpulsai	毫不费力地构建可扩展的AI应用程序。 AI＆ML的自动平台	[工具]
代理人	Agenta是一个开源LLM开发人员平台，其工具可以及时管理，评估，人为反馈和部署。	[github]
提示类型	开发，测试和监视您的LLM {结构化}任务	[工具]

蜜蜂

姓名	描述	URL	付费或开源
Openai	GPT-N用于自然语言任务，用于将自然语言转换为代码的法典，以及用于创建和编辑原始图像的dall·e	[Openai]	有薪酬的
Cohereai	Cohere通过一个API提供了对高级大型语言模型和NLP工具的访问	[Cohereai]	有薪酬的
人类	即将推出	[人类]	有薪酬的
Flan-T5 XXL	即将推出	[huggingface]	开源

数据集

？

姓名	描述	URL
P3（公共提示）	P3（公共提示池）是涵盖各种NLP任务的提示英语数据集的集合。	[huggingface]
很棒的chatgpt提示	回购包括Chatgpt提示策划，以更好地使用ChatGpt。	[github]
写作提示	收集了一个大型数据集的300k人称故事，并与在线论坛（REDDIT）中的写作提示配对	[Kaggle]
Midjourney提示	从Midjourney的公共不和谐服务器刮下的文本提示和图像URL	[huggingface]

型号

？

姓名	描述	URL
chatgpt	chatgpt	[Openai]
法典	法典模型是我们可以理解和生成代码的GPT-3模型的后代。他们的培训数据包含GitHub的自然语言和数十亿行公共代码	[github]
盛开	Bigscience大型开放科学开放式多种语言模型	[huggingface]
Facebook LLM	OPT-175B是由META训练的GPT-3等效模型。它是迄今为止最大的审核语言模型，具有1750亿个参数。	[ALPA]
gpt-neox	GPT-NEOX-20B，在堆上训练的200亿参数自回归语言模型	[huggingface]
Flan-T5 XXL	Flan-T5是一种指令调整的模型，这意味着当指示作为提示的一部分时，它表现出零拍的行为。	[Huggingface/Google]
XLM-ROBERTA-XL	XLM-ROBERTA-XL模型在包含100种语言的2.5TB的2.5TB上进行了预训练。	[huggingface]
GPT-J	这是一种类似GPT-2的因果语言模型，该模型在桩数据集上训练	[huggingface]
Palm-Rlhf-Pytorch	在棕榈体系结构之上实施RLHF（通过人为反馈的增强学习）。基本上是changpt，但用棕榈	[github]
gpt-neo	使用网格 - 柔性库库的模型并行GPT-2和GPT-3风格模型的实现。	[github]
lamda-rlhf-pytorch	Google的LAMDA在Pytorch中的开源预培训实施。添加类似于chatgpt的RLHF。	[github]
RLHF	从人类反馈（RLHF）中实施强化学习	[github]
GLM-130B	GLM-130b：开放双语的预训练模型	[github]
混音84b	Mixtral-84b是专家（MOE）模型的混合物，每MLP 8个专家。	[huggingface]

AI内容探测器

？

姓名	描述	URL
AI文本分类器	AI文本分类器是一个微调的GPT模型，可预测AI是由AI从各种来源（例如ChatGpt）生成的可能性。	[Openai]
GPT-2输出检测器	这是基于罗伯塔（Roberta）的“变形金刚”实施的GPT-2输出检测器模型的在线演示。	[huggingface]
Openai探测器	用于指示AI写的文本的AI分类器（OpenAI探测器Python包装器）	[github]

课程

？‍？

• CHATGPT提示开发人员的工程，通过DeepLearning.AI
• 通过DeepLearning.AI迅速为视觉模型工程

教程

• 提示工程简介

  • 及时工程101-介绍和资源
  • 及时工程101
  • Sudalairajkumar的及时工程指南

• 生成语言模型的初学者指南

  • 生成语言模型的初学者指南 - Lambda指南
  • 带有Cohere的生成AI：第1部分 - 模型提示

• 及时工程的最佳实践

  • 使用OpenAI API及时工程的最佳实践
  • 如何编写好提示

• 完整指南及时工程

  • 大型语言模型的及时工程的完整介绍
  • 及时的工程指南：如何设计完美的提示

• 迅速工程的技术方面

  • GPT-3及时工程的3条原则
  • CHATGPT提示工程的通用框架
  • 及时编程的方法

• 迅速工程的资源

  • 很棒的chatgpt提示
  • 最佳100+稳定扩散提示
  • 达勒提示书
  • Openai食谱
  • Microsoft的及时工程

视频

？

• 高级chatgpt提示工程
• chatgpt：5个初学者的及时工程秘密
• CMU高级NLP 2022：提示
• 及时的工程 - 新职业？
• CHATGPT指南：10倍您的结果，以更好的提示
• 语言模型和及时工程：NLP提示方法的系统调查
• 及时工程101：自动完成，零射击，一次性和很少的发动机提示

社区

？

• Openai和不和谐
• 提示SLAB不和谐
• 学习提示
• R/Chatgpt Discord
• Midjourney Discord

如何贡献

我们欢迎对此列表的贡献！实际上，这就是我创建它的主要原因 - 鼓励贡献并鼓励人们认同变化，以便了解大型语言模型（LLMS）和及时工程的新的令人兴奋的发展。

在贡献之前，请花点时间查看我们的贡献指南。这些准则将有助于确保您的贡献与我们的目标保持一致，并符合我们的质量和相关性标准。感谢您对为该项目做出贡献的兴趣！

图像来源：docs.cohere.ai