awesome instruction dataset

很棒的文本/视觉指导 - 调整数据

开源指令调谐数据集的集合，以训练基于聊天的LLM（GPT-4，Chatgpt，Llama，Llama，aspaca）。我们目前包括三种类型的数据集：

1. 视觉指导（例如图像 - 建筑 - 解答）
2. 文本指导数据集。
3. 红队|从人类反馈（RLHF）数据集中学习的强化学习

从人类反馈（RLHF）数据集中进行的指令调整 /加固学习是指导关注LLMS（例如ChatGpt）的关键组成部分。该仓库致力于提供各种LLM中用于指导调整的数据集的全面列表，从而使研究人员和开发人员更容易访问和利用这些资源。

培训您的LLM的代码列表：

• Nichtdax/Awesome-toply-open-chatgpt：一个完全开放替代的代码库

尺寸：指令调整对的数量

lingual-tags：

• EN：英文指令数据集
• CN：中文指令数据集
• ML：[多语言]多种语言的指令数据集

任务标签：

• MT：[多任务]包含多个任务的数据集
• TS：[特定于任务]针对特定任务量身定制的数据集

生成方法：

• HG：[人类生成的数据集]人类创建的数据集
• SI：[自我指导]使用自我教学方法生成的数据集
• 混合：[混合数据集]数据集包含人类和机器生成的数据
• col：[数据集的收集]数据集由其他数据集的集合制成

目录

1. 模板
2. 多模式指令数据集
   • （Vision-cair/Minigpt-4）| 5k | en | mt |混合
   • （Haotian-liu/llava）| 150K | en | mt |混合
3. 指令调谐数据集
   • （tatsu-lab/aspaca）| 52k | en | mt | si
   • （gururise/cleaned羊驼）| 52k | en | mt | si
   • （Xuefuzhao/cestibtionWild）| 52K | en | cn | mt | si
   • （josephuscheung/guanacodataset）| 534K | ml | mt | si
   • （Hello-simpleai/hc3）| 24k | en | mt |混合
   • （Hello-simpleai/hc3-中心）| 13k | cn | mt |混合
   • （allenai/prosocial-dialog）| 58k | en | mt |混合
   • （Allenai/自然建筑）| 1.6K | Ml | Mt | Hg
   • （bigscience/xp3）| n/a | ml | mt |混合
   • （nomic-ai/gpt4all）| 437K | en | mt | col
   • （phoebussi/alpaca-cot）| 500k | ml | mt | col
   • （Google-Research/Flan）| n/a | en | mt |混合
   • （thunlp/ultrachat）| 280K | en | ts |混合
   • （cascip/chatalpaca）| 10k | en | mt |混合
   • （Yeungnlp/Firefly-Train-1.1m）| 1100K | CN | MT | Col
   • （Orhonovich/Unnatural-Instructions）| 240K | en | Mt | Mix
   • （指令 - tuning-with-with-gpt-4/gpt-4-llm）| 52K | en | cn | mt | si
   • （Databrickslabs/dolly）| 15k | en | mt | hg
   • （openassistant/oasst1）| 161K | ml | mt | hg
   • （ryokoai/sharegpt52k）| 90k | ml | mt | si
   • （zjunlp/mol-rinstructions）| 2043k | ml | mt |混合
4. 从人类反馈（RLHF）数据集中学习的强化学习
   • （拟人/HH-RLHF）| 22k | en | mt |混合
   • （thu-coai/Safety-Prompts）| 100K | CN | MT |混合
   • （huggingfaceh4/stack-exchange-preferences）| 10741K | en | ts | hg
   • （StanfordNLP/SHP）| 385K | en | Mt | Hg
   • （指令 - tuning-with-with-gpt-4/gpt-4-llm）| 52K | en | mt | mix
5. 允许商业用途的许可证

模板

在文件末尾附加新项目

 ## [ ({owner}/{project-name)|Tags} ] { https://github.com/link/to/project}

- summary:
- Data generation model:
- paper:
- License:
- Related: (if applicable)

多模式指令数据集

（Vision-cair/Minigpt-4）| 5k | en | mt |混合

• 摘要：使用两个机器人之间的对话创建的高质量，良好的（例如，更详细的图像倒数）图像 - 文本数据集，类似于chatcaptioner。然后，可以将此图像文本数据集与一些预定义的指令模板一起使用，以用于图像 - 指令 - 答案框架。
• 模式：文字，图像
• 数据生成模型：不/A
• 论文：Minigpt-4：使用先进的大语言模型增强视觉语言理解
• 许可证： BSD 3-Clause
• 有关的：
  • 图像和视频的交互式聊天仪

（Haotian-liu/llava）| 150K | en | mt |混合

• 摘要：Llava Visual指令150K是GPT生成的多模式指令数据的一组。它是用于视觉教学调整和构建大型多模式的构建的，该多式模式针对GPT-4视觉/语言能力。
• 模式：文字，图像
• 数据生成模型： GPT-4-0314
• 论文：视觉教学调整
• 许可证： CC BY-NC 4.0

[（{{sunrainyg}/{constructcv）| en | mt | mix}] {https://github.com/alaalab/instructcv}

• 摘要：作为视觉通才的指令调整的文本对图像扩散模型
• 模式：文字，图像
• 论文：指令
• 许可证： CC BY-NC 4.0

指导关注数据集

（tatsu-lab/aspaca）| 52K | en | mt | si

• 摘要：通过人类书面175 seed task由修改的self-instruct管道产生的52K数据。
• 数据生成模型： text-davinci-003
• 纸：羊驼博客
• 许可证： CC BY-NC 4.0

（gururise/cleaned羊驼）| 52k | en | mt | si

• 摘要：手动清洁羊驼52k数据集的项目
• 数据生成模型： text-davinci-003
• 纸：不/a
• 许可证： CC BY-NC 4.0

（Xuefuzhao/cestibtionWild）| 52K | en | cn | mt | si

• 摘要：通过人类书面429 seed task由修改的self-instruct管道产生的52K数据。
• 数据生成模型： text-davinci-003
• 纸：不/a
• 许可证：指导翼数据集仅用于非商业研究目的。

（josephuscheung/guanacodataset）| 534K | ml | mt | si

• 摘要：通过人类书面429 seed task由修改的self-instruct管道生成的52K指令数据。
• 数据生成模型： text-davinci-003
• 许可证： GPL-3.0

（Hello-simpleai/hc3）| 24k | en | mt |混合

• 摘要：第一个人类聊天比较语料库（英语版本），名为HC3数据集
• 数据生成模型： gpt-3.5 ， human generated
• 论文：与人类专家有多近？比较语料库，评估和检测
• 许可证： CC BY-SA 4.0

（Hello-simpleai/hc3-中心）| 13k | cn | mt |混合

• 摘要：第一个人类聊天比较语料库（中文版本），名为HC3数据集
• 数据生成模型： gpt-3.5 ， human generated
• 论文：与人类专家有多近？比较语料库，评估和检测
• 许可证： CC BY-SA 4.0

（allenai/prosocial-dialog）| 58k | en | mt |混合

• 摘要：ProsociaLdialog是第一个大规模的多转向英语对话数据集，它教会对话代理在社会规范之后响应有问题的内容。
• 数据生成模型： gpt-3.5 ， human generated
• 论文：积极性：对话代理的亲社会主链
• 许可证： CC BY 4.0

（Allenai/自然建筑）| 1.6K | Ml | Mt | Hg

• 摘要：社区努力创建大量1,616 diverse NLP tasks及其自然语言定义/指示。
• 数据生成模型： Human generated
• 论文：超静脉结构：通过声明性说明对1600+ NLP任务进行概括
• 许可证： Apache License 2.0

（bigscience/xp3）| n/a | ml | mt |混合

• 摘要：[提示回源] XP3（跨语言公共提示）是46种语言和16个NLP任务的提示和数据集的集合。
• 数据生成模型：不/A
• 论文：通过多任务登录的跨语言概括
• 许可证： Apache License 2.0

（phoebussi/alpaca-cot）| 500k | ml | mt | col

• 摘要：基于骆驼和羊驼的基于思想链推理的数据集。注意：他们的存储库将不断收集和组合各种指令调整数据集。 Github repo
• 纸：不/a
• 许可证： Apache License 2.0

（nomic-ai/gpt4all）| 437K | en | mt | col

• 摘要：gpt4 all利用三个公开可用数据集：1。laion/oig，2.pacovaldez/stackoverflow-问题3。bigscience/bloomz-p3
• 数据生成模型：不/A
• 论文：GPT4All：培训助理风格的聊天机器人，并从GPT-3.5-Turbo中进行大规模数据蒸馏
• 许可证： MIT License

（teknium1/gpteacher）| 20k+| en | mt | si

• 摘要：由GPT-4，通用教学-Roleplay-Instruct-code-Instruct-和Toolformer生成的模块化数据集的集合
• 数据生成模型： GPT-4
• 纸：不/a
• 许可证： MIT License

（Google-Research/Flan）| n/a | en | mt |混合

• 摘要：Flan Collection收集了Flan 2021，P3，超自然说明的数据集，以及数十个数据集中，将它们格式化为一个零摄像机，几乎没有射击和链条的模板的组合
• 数据生成模型：不/A
• 论文：Flan Collection：设计数据和有效指导调整的方法
• 许可证： Apache License 2.0

（thunlp/ultrachat）| 280K | en | ts |混合

• 摘要：Ultrachat旨在构建开源，大规模和多轮对话数据。 Ultrachat的第一部分（即有关世界部门的问题）已发布，其中包含280k多样化且内容丰富的对话。关于写作和创作的更多对话，将要对现有材料进行帮助。
• 数据生成模型： GPT-3.5-turbo
• 纸：不/a
• 许可证： CC BY-NC 4.0

（cascip/chatalpaca）| 10k | en | mt |混合

• 摘要：基于斯坦福羊驼数据，Chatalpaca将数据扩展到多转向说明及其相应的响应。更多数据（20K）和中文翻译版本将发布。
• 数据生成模型： GPT-3.5-turbo
• 纸：不/a
• 许可证： Apache License 2.0
• 相关：（ tatsu-lab/aspaca）| 52k | en | mt | si

（Yeungnlp/Firefly-Train-1.1m）| 1100K | CN | MT | Col

• 摘要：23个任务的中国数据集与人写的指令模板相结合。
• 数据生成模型：不/A
• 纸：不/a
• 许可证：N/A。

（Orhonovich/Unnatural-Instructions）| 240K | en | Mt | Mix

• 摘要：64K示例通过提示具有指令三个种子示例的语言模型并引起第四个种子示例。然后，通过提示模型重塑每种说明，将集合扩展到240K。
• 数据生成模型： text-davinci-002
• 论文：不自然的说明：使用（几乎）没有人工劳动的语言模型
• 许可证： MIT License

（指令 - tuning-with-with-gpt-4/gpt-4-llm）| 52K | en | cn | mt | si

• 摘要：由GPT-4生成的52K指令跟随数据，其原始羊驼提示和羊驼提示和羊驼提示通过ChatGpt + 9K指令 - 遵循GPT-4的数据，该数据由GPT-4产生的数据，并在不自然的指令中使用提示。
• 数据生成模型： GPT-4
• 论文：使用GPT-4进行指导调整
• 许可证： CC BY-NC 4.0
• 有关的：
  • （tatsu-lab/aspaca）| 52K | en | mt | si
  • （Orhonovich/Unnatural-Instructions）| 240K | en | Mt | Mix

（Databrickslabs/dolly）| 15k | en | mt | hg

• 摘要：此数据集是由数以千计的Databricks员工生成的，其中包括Reactiongpt论文中概述的几个行为类别，包括集思广益，分类，封闭质量检查，发电，信息提取，开放质量请QA和摘要。
• 数据生成模型：不/A
• 纸：免费的多莉
• 许可证： CC BY-SA 3.0

（openassistant/oasst1）| 161K | ml | mt | hg

• 摘要：开放式对话（OASST1），一种人类生成的，人类通知的助理风格的对话语料库，由161,443个消息组成，分布在66,497个对话树上，使用35种不同的语言，并注明了461,292个质量评级。
• 数据生成模型：不/A
• 论文：开放式对话 - 民主化大语言模型一致性
• 许可证： Apache License 2.0

（ryokoai/sharegpt52k）| 90k | ml | mt | si

• 摘要：在关闭之前，通过ShareGpt API刮擦了90,000次对话。这些对话包括用户提示和OpenAI的Chatgpt的响应。
• 数据生成模型： GPT-4 ， GPT-3.5
• 纸：不/a
• 许可证： CC0 1.0 Universal

（zjunlp/mol-rinstructions）| 2043k | ml | mt |混合

• 摘要：一个开放的大规模生物分子指令数据集，该数据集由148,4K分子面向505K蛋白质的蛋白质和53K生物分子文本指令组成。
• 数据生成模型： GPT-3.5
• 论文：摩尔指导：大型大型语言模型的大规模生物分子指令数据集
• 许可证： CC BY 4.0

从人类反馈（RLHF）学习的强化学习|红色团队数据集

（拟人/HH-RLHF）| 22k | en | mt |混合

• 摘要：此RLHF数据集是一个迭代的“在线”数据集，其中包括来自52B语言模型的数据。它包含22k的帮助比较，没有红色的数据。
• 数据生成模型： Anthropic RL-CAI 52B
• 论文：培训一位有益而无害的助手，并从人类反馈中学习
• 许可证： MIT License
• 有关的：
  • （Hello-simpleai/hc3）| 24k | en | mt |混合
  • （Hello-simpleai/hc3-中心）| 13k | cn | mt |混合

（thu-coai/Safety-Prompts）| 100K | CN | MT |混合

• 摘要：中国安全提示评估和改善LLM的安全性。该存储库包括100K中国安全场景提示和CHATGPT响应，涵盖了各种安全方案和命令攻击。它可用于全面评估和改进模型安全性，以及增强模型的安全性知识，使模型输出与人类价值观保持一致。
• 数据生成模型： GPT-3.5
• 论文：中国大语模型的安全评估
• 许可证： Apache License 2.0

（huggingfaceh4/stack-exchange-preferences）| 10741K | en | ts | hg

• 摘要：此数据集包含堆栈溢出数据转储中的问题和答案，以进行偏好模型培训。
• 数据生成模型：不/A
• 论文：通用语言助理作为对齐实验室的
• 许可证： CC BY-SA 4.0
• 有关的：
  • 堆栈交换

（StanfordNLP/SHP）| 385K | en | Mt | Hg

• 摘要：每个示例都是一个reddit帖子，其中包含问题/指令和该帖子的两对顶级评论，其中Reddit用户更喜欢一个评论（共同）。
• 数据生成模型：不/A
• 纸：不/a
• 许可证：N/A。

（指令 - tuning-with-with-gpt-4/gpt-4-llm）| 52K | en | mt | mix

• 摘要：通过要求GPT-4评分质量来评估三种型号（GPT-4，GPT-3.5和OPT-IML）的羊驼提示（GPT-4模型不是人类）的排名响应（注意：数据。作者认为“ GPT-4能够识别和解决自己的错误，并准确判断响应质量”
• 数据生成模型： GPT-4
• 论文：使用GPT-4进行指导调整
• 许可证： CC BY-NC 4.0
• 有关的：
  • （tatsu-lab/aspaca）| 52K | en | mt | si

（reddit/eli5）| 500k | en | mt | hg

• 摘要：此数据集包含subreddits r/dimendlikeimfive，r/askhistorians和r/askscience的问题和答案。
• 数据生成模型：不/A
• 纸：不/a
• 许可证：N/A。
• 相关：ELI5数据集以类似于堆栈交换对象的格式对ELI5数据集的转换。

允许商业用途的许可证

注意：尽管这些许可证允许商业使用，但它们可能对归因，分发或修改有不同的要求。在商业项目中使用该许可之前，请务必查看每个许可证的具体条款。

商业使用许可证：

1. Apache License 2.0
2. MIT License
3. BSD 3-Clause License
4. BSD 2-Clause License
5. GNU Lesser General Public License v3.0 (LGPLv3)
6. GNU Affero General Public License v3.0 (AGPLv3)
7. Mozilla Public License 2.0 (MPL-2.0)
8. Eclipse Public License 2.0 (EPL-2.0)
9. Microsoft Public License (Ms-PL)
10. Creative Commons Attribution 4.0 International (CC BY 4.0)
11. Creative Commons Attribution-ShareAlike 4.0 International (CC BY-SA 4.0)
12. zlib License
13. Boost Software License 1.0