llm prompting practices ja

（日语）创建LLM提示的提示

根据高质量的参考材料，我们很容易编辑用于创建LLM（大规模语言模型）提示的提示。

仅提供概述。请参阅每个文档以获取详细信息。

可以通过出版的材料在某种程度上学习及时的工程技术。如果您正在考虑购买有关及时工程的课程，商品或书籍（通常对于那些没有信息的人），请务必先阅读这些材料。

尖端

Openai：及时工程

及时工程 - OpenAI API

六个策略

1. 写清晰的说明
   • 包括详细信息
   • 分配角色
   • 清楚地分配输入语句的不同部分
   • 指定完成任务所需的步骤
   • 提出一个例子
   • 指定您想要的答案的长度
2. 提供参考文本
   • 指示您使用参考文本响应
   • 指示他们用参考文本的报价解开拉链
3. 将复杂任务分为简单的子任务
   • 使用意图分类确定用户查询的高度相关说明
   • 在需要长时间对话的交互式应用程序中总结或过滤以前的交互
   • 长文件以碎片为单位，然后递归构建整体摘要。
4. 给模型时间思考
   • 在得出结论之前，告诉模型本身要找到解决方案
   • 使用内部独白和一组查询隐藏模型的推理过程
   • 询问模型是否缺少上次通行证
5. 使用外部工具
   • 使用基于嵌入的搜索进行有效的知识重演
   • 使用代码执行来进行更准确的计算和外部API调用
   • 让模型访问特定功能
6. 系统地测试您的更改
   • 使用黄金标准答案评估模型的输出

Google：及时设计策略

及时设计策略| Google AI针对开发人员

及时设计策略

1. 给出明确而具体的说明
   • 定义要执行的任务
   • 指定所有约束
   • 定义答案的格式
2. 包括一些例子
   • 零射击和少量射击提示
   • 找到最佳示例数量
   • 示例用于显示模式，而不是反图案。
   • 提供的示例使用一致的格式
3. 添加上下文信息
4. 添加一个前缀
   • 输入前缀
   • 输出前缀
   • 示例前缀
5. 给出模型部分输入以完成它
6. 分解提示为简单组件
   • 分解说明
   • 创建一个提示链（使上一个提示的输出作为下一个提示的输入）
   • 汇总响应
7. 尝试不同的参数值
   • 最大输出令牌
   • 温度
   • top-k
   • 顶级
8. 迅速改进周期策略
   • 使用其他短语
   • 切换到类似的任务
   • 重新排序提示内容
9. 后备响应
10. 要避免的事情
    • 避免依靠模型来生成事实信息
    • 谨慎使用数学和逻辑问题

Google：通用AI的及时工程

通用AI的及时工程|机器学习| Google for Developers

迅速生成AI的工程

及时创建最佳实践

1. 清楚地传达哪些内容和信息最重要。
2. 构建提示：从角色定义开始，提供上下文和输入数据并提供指令。
3. 使用具体和多样的示例，使模型能够以重点产生准确的结果。
4. 给出约束以限制模型输出的范围。这样做将避免偏离指示并提供不准确的信息。
5. 复杂的任务分为简单的序列。
6. 指示模型在生成它们之前对自己的答案进行评分并检查自己的答案（“响应应在3个句子之内”，“对输出的简短为1-10。”“您认为这是正确的吗？”）。

提示类型

1. 直接提示（零射）
2. 提示一个示例（单杆/少射/多枪）
3. COT（经营链）提示
4. 零射床
5. 迅速改进周期策略

人类：及时工程

及时的工程

迅速开发生命周期

1. 定义任务和成功标准
   • 要考虑的关键成功标准
     • 性能和准确性
     • 潜伏期
     • 价格
2. 创建一个测试用例
3. 创建一个临时提示
4. 在测试案例上尝试提示
5. 提示提示
   • 返回步骤4并重复改进
6. 释放抛光提示

首先从功能最强大的型号和长提示开始，一旦拥有所需的输出质量，请尝试较小的型号或较短的提示，以节省延迟和成本。

迅速的工程技术

1. 清楚地告诉他们
2. 使用示例
3. 扮演模型
4. 使用XML标签（特定于Claude）
5. 分开大提示
6. 使模型逐步思考
7. 指定预期输出的开始
8. 指定输出格式
9. 请重写
10. 带有长上下文窗口的模型利用它

dair.ai：及时的工程指南

及时的工程指南

LLM设置

姓名	解释
温度	随机程度。提高温度会增加随机性，而降低会降低随机性。
顶部p	一种称为核采样的采样方法。较高的顶部P增加了响应的多样性。
最大长度	答案的最大长度。单位因模型而异，例如令牌和字符的数量。
停止序列	停止生成答案的字符串模式。
频率罚款	特定令牌发生频率的罚款。
存在处罚	任何令牌发生频率的罚款。

提示组件

将以下内容视为提示的组成部分：

姓名	日本人	解释
操作说明	指示	您要建模的任务
语境	语境	外部信息和其他上下文
输入数据	输入数据	输入和问题要答案
输出指示器	输出指示器	输出类型和格式

一般提示

• 简单开始并重复改进
• 以有序的方式指示请求
• 具体来说，直接
• 避免不准确
• “这就是方式”而不是“不要这样做”。

及时创建技术

• 零射击提示
• 很少射击
• COT（经营链）提示
• 自矛盾
• 产生的知识提示
• 及时链接
• TOT（思想树）
• 抹布（检索增强一代）
• 艺术（自动推理和工具使用）
• 猿（自动及时工程师）
• 主动提示
• 方向性刺激提示
• PAL（程序辅助语言模型）
• 反应提示
• 反射
• 多模式COT提示
• GraphPrompt

风险和滥用

• 敌对提示（及时攻击）
  • 提示注射
  • 普罗普特国王
  • 越狱（越狱）
• 真相
• 偏见

参考

指南

• OpenAI：及时工程 - OpenAI API
• Google：及时设计策略| Google AI针对开发人员
• Google：通用AI的及时工程|机器学习| Google for Developers
• 人类：及时工程
• dair.ai：及时的工程指南

样本收集

• Openai：示例 - OpenAI API
• Google：示例提示，代码和集成| Google AI针对开发人员
• 人类：提示库

链接

• OpenAI：网络周围的相关资源| Openai食谱
• dair.ai：论文|及时的工程指南