提示工程是一门相对较新的学科,旨在开发和优化提示,以有效地使用语言模型(LMs)用于各种应用和研究课题。提示工程技能有助于更好地了解大型语言模型(LLMs)的功能和局限性。
提示工程可用来提高 LLMs 在各种常见和复杂任务(如问答和算术推理)上的能力,设计与 LLMs 和其他工具接口的稳健有效的提示技术。
受到开发 LLM 的高度兴趣的推动, 创建了这提示工程指南材料集合,其中包含了所有与提示工程相关的最新论文、学习指南、讲座、参考资料和工具。 (暂时我会每三天更新)
目前大部分的内容翻译於 dair-ai (https://github.com/dair-ai/Prompt-Engineering-Guide)
dair-ai 笔记本和幻灯片皆包含其中。
dair-ai 的Discord 和 dair-ai 的推特
平台 (体验过推荐的)
以下是dair-ai 开发的提示工程指南。 dair-ai 指南正在研发中。(暂时我会每三天更新)
以下是关于提示工程的最新论文(按发布日期排序)。我们每天更新这些论文,并添加新的论文。我们每周都会将这些论文的摘要添加到上面的指南中:
调查/概述 Surveys / Overviews:
技术/方法 Approaches/Techniques:
可扩展的语言模型半监督学习提示生成(2023 年 2 月)
通过提示约束界定大型语言模型在开放文本生成中的能力范围(2023 年 2 月)
À-la-carte Prompt Tuning(APT):通过可组合的提示结合不同的数据(2023 年 2 月)
GraphPrompt:图形神经网络的预训练和下游任务的统一(2023 年 2 月)
大型语言模型在道德自我纠正中的能力(2023 年 2 月)
SwitchPrompt:为低资源域中的分类学习领域特定的门控软提示(2023 年 2 月)
评估离散提示的鲁棒性 (Feb 2023)
上下文学习的组合示例 (Feb 2023)
硬提示变得容易:基于梯度的离散优化用于提示调整和发现 (Feb 2023)
多模态连锁思维推理在语言模型中 (Feb 2023)
大型语言模型容易被无关的上下文分散注意力 (Feb 2023)
合成提示:为大型语言模型生成思维演示 (Feb 2023)
渐进提示:语言模型的持续学习 (Jan 2023)
批处理提示:LLM API 的高效推理 (Jan 2023)
再想想,让我们不要一步一步地思考!零点推理中的偏见和毒性 (Dec 2022)
宪政 AI:来自 AI 反馈的无害性 (Dec 2022)
连续提示:解决复杂问题 (Dec 2022)
通过模型编写的评估发现语言模型行为 (Dec 2022)
结构提示:将上下文学习扩展至 1000 个例子 (Dec 2022)
PAL:程序辅助语言模型 (Nov 2022)
大型语言模型是人类级别的提示工程师 (Nov 2022)
忽略先前提示:语言模型的攻击技术 (Nov 2022)
机器生成文本:威胁模型和检测方法的综合研究 (Nov 2022)
通过上下文学习教授算法推理 (Nov 2022)
通过自然语言推理增强预训练语言模型的自我一致性和性能 (Nov 2022)
随便问问:提示语言模型的简单策略 (Oct 2022)
ReAct:在语言模型中协同推理和行动 (Oct 2022)
提示 GPT-3 可靠 (Oct 2022)
分解提示:解决复杂任务的模块化方法 (Oct 2022)
语言模型是贪婪的推理者:思路链的系统形式分析 (Oct 2022)
通过手工设计的对抗性例子评估预先训练语言模型的易感性(2022 年 9 月)
Promptagator:从 8 个例子中获取少量的密集检索(2022 年 9 月)
推动语言模型变得更好的推理者(2022 年 6 月)
大型语言模型是零点推理者(2022 年 5 月)
MRKL 系统:一种模块化的神经符号架构,结合大型语言模型,外部知识源和离散推理(2022 年 5 月)
通过生成提示的毒性检测(2022 年 5 月)
学习转移提示以用于文本生成(2022 年 5 月)
少量提示的文本推理说明的不可靠性(2022 年 5 月)
用于文本到图像生成的提示修改器分类(2022 年 4 月)
PromptChainer:通过可视化编程链接大型语言模型提示(2022 年 3 月)
自我一致性提高语言模型的思路链推理(2022 年 3 月)
使用人类反馈训练语言模型以执行指令
重新审视示范的作用:什么使上下文学习成功?(2022 年 2 月)
想法链接提示引发大型语言模型的推理(2022 年 1 月)
展示你的工作:与语言模型中间计算的暂存器(2021 年 11 月)
基于生成知识提示的常识推理(2021 年 10 月)
多任务提示训练可实现零射击任务泛化 (Oct 2021)
重构指令提示以适应 GPTk 的语言 (Sep 2021)
文本到图像生成模型的设计准则 (Sep 2021)
使预训练语言模型成为更好的少样本学习器 (Aug 2021)
神奇有序的提示及其位置:克服少量提示顺序敏感性 (April 2021)
BERTese:学会与 BERT 交谈 (April 2021)
参数有效的提示调整的规模之力 (April 2021)
大型语言模型的提示编程:超越少量提示范式 (Feb 2021)
使用前校准:提高语言模型的少样本性能 (Feb 2021)
前缀调整:优化用于生成的连续提示 (Jan 2021)
AutoPrompt:通过自动生成的提示从语言模型中提示知识 (Oct 2020)
语言模型是少量学习者 (May 2020)
我们如何知道语言模型知道什么? (July 2020)
应用 Applications:
集合 Collections:
如果你认为缺少了什么,欢迎提交一个 PR。也欢迎反馈和建议。