提示工程是一门相对较新的学科,旨在开发和优化提示,以有效地使用语言模型(LMs)用于各种应用和研究课题。提示工程技能有助于更好地了解大型语言模型(LLMs)的功能和局限性。
提示工程可用来提高LLMs 在各种常见和复杂任务(如问答和算术推理)上的能力,设计与LLMs 和其他工具接口的稳健有效的提示技术。
受到开发LLM 的高度兴趣的推动, 创建了这提示工程指南材料集合,其中包含了所有与提示工程相关的最新论文、学习指南、讲座、参考资料和工具。 (暂时我会每三天更新)
目前大部分的内容翻译于dair-ai (https://github.com/dair-ai/Prompt-Engineering-Guide)
dair-ai 笔记本和幻灯片皆包含其中。
dair-ai 的Discord 和dair-ai 的推特
平台(体验过推荐的)
以下是dair-ai 开发的提示工程指南。 dair-ai 指南正在研发中。 (暂时我会每三天更新)
以下是关于提示工程的最新论文(按发布日期排序)。我们每天更新这些论文,并添加新的论文。我们每周都会将这些论文的摘要添加到上面的指南中:
调查/概述Surveys / Overviews:
技术/方法Approaches/Techniques:
可扩展的语言模型半监督学习提示生成(2023 年2 月)
通过提示约束界定大型语言模型在开放文本生成中的能力范围(2023 年2 月)
À-la-carte Prompt Tuning(APT):通过可组合的提示结合不同的数据(2023 年2 月)
GraphPrompt:图形神经网络的预训练和下游任务的统一(2023 年2 月)
大型语言模型在道德自我纠正中的能力(2023 年2 月)
SwitchPrompt:为低资源域中的分类学习领域特定的门控软提示(2023 年2 月)
评估离散提示的鲁棒性(Feb 2023)
上下文学习的组合示例(Feb 2023)
硬提示变得容易:基于梯度的离散优化用于提示调整和发现(Feb 2023)
多模态连锁思维推理在语言模型中(Feb 2023)
大型语言模型容易被无关的上下文分散注意力(Feb 2023)
合成提示:为大型语言模型生成思维演示(Feb 2023)
渐进提示:语言模型的持续学习(Jan 2023)
批处理提示:LLM API 的高效推理(Jan 2023)
再想想,让我们不要一步一步地思考!零点推理中的偏见和毒性(Dec 2022)
宪政AI:来自AI 反馈的无害性(Dec 2022)
连续提示:解决复杂问题(Dec 2022)
通过模型编写的评估发现语言模型行为(Dec 2022)
结构提示:将上下文学习扩展至1000 个例子(Dec 2022)
PAL:程序辅助语言模型(Nov 2022)
大型语言模型是人类级别的提示工程师(Nov 2022)
忽略先前提示:语言模型的攻击技术(Nov 2022)
机器生成文本:威胁模型和检测方法的综合研究(Nov 2022)
通过上下文学习教授算法推理(Nov 2022)
通过自然语言推理增强预训练语言模型的自我一致性和性能(Nov 2022)
随便问问:提示语言模型的简单策略(Oct 2022)
ReAct:在语言模型中协同推理和行动(Oct 2022)
提示GPT-3 可靠(Oct 2022)
分解提示:解决复杂任务的模块化方法(Oct 2022)
语言模型是贪婪的推理者:思路链的系统形式分析(Oct 2022)
通过手工设计的对抗性例子评估预先训练语言模型的易感性(2022 年9 月)
Promptagator:从8 个例子中获取少量的密集检索(2022 年9 月)
推动语言模型变得更好的推理者(2022 年6 月)
大型语言模型是零点推理者(2022 年5 月)
MRKL 系统:一种模块化的神经符号架构,结合大型语言模型,外部知识源和离散推理(2022 年5 月)
通过生成提示的毒性检测(2022 年5 月)
学习转移提示以用于文本生成(2022 年5 月)
少量提示的文本推理说明的不可靠性(2022 年5 月)
用于文本到图像生成的提示修改器分类(2022 年4 月)
PromptChainer:通过可视化编程链接大型语言模型提示(2022 年3 月)
自我一致性提高语言模型的思路链推理(2022 年3 月)
使用人类反馈训练语言模型以执行指令
重新审视示范的作用:什么使上下文学习成功? (2022 年2 月)
想法链接提示引发大型语言模型的推理(2022 年1 月)
展示你的工作:与语言模型中间计算的暂存器(2021 年11 月)
基于生成知识提示的常识推理(2021 年10 月)
多任务提示训练可实现零射击任务泛化(Oct 2021)
重构指令提示以适应GPTk 的语言(Sep 2021)
文本到图像生成模型的设计准则(Sep 2021)
使预训练语言模型成为更好的少样本学习器(Aug 2021)
神奇有序的提示及其位置:克服少量提示顺序敏感性(April 2021)
BERTese:学会与BERT 交谈(April 2021)
参数有效的提示调整的规模之力(April 2021)
大型语言模型的提示编程:超越少量提示范式(Feb 2021)
使用前校准:提高语言模型的少样本性能(Feb 2021)
前缀调整:优化用于生成的连续提示(Jan 2021)
AutoPrompt:通过自动生成的提示从语言模型中提示知识(Oct 2020)
语言模型是少量学习者(May 2020)
我们如何知道语言模型知道什么? (July 2020)
应用Applications:
集合Collections:
如果你认为缺少了什么,欢迎提交一个PR。也欢迎反馈和建议。