Auto_Standard_Generator

自动标准生成器：微调实践

该存储库包含Auto Standard Generator的代码和数据，这是由Harbin Technology的五个本科生组成的一年级项目。

---

？消息

• [2024.3.25] ??收集原始数据：刮擦PDF技术标准。
• [2024.3.25] ??清洁和预处理：数据集的批处理文本。
• [2024.4.23] ??数据清洁：删除了乱码的文字。

托多

• 标记数据：构建指令数据以进行微调。
• 微调
• 加速与压缩：采用模型加速和压缩技术来降低推理潜伏期和内存成本。
• GUI开发：开发用户界面。

---

简介

对特定于特定任务的标记数据的较小数据集上的微调预训练的通用大语言模型（LLM），使模型可以学习对该任务很重要的特定功能，从而提高其性能。

该项目着重于微调开源总LLM，例如Llama 2或ChatGlm 3，以专门为生成技术标准文档。

---

入门

1。环境准备

2。数据集建筑

3。监督微调