Auto_Standard_Generator

Gerador padrão automático: uma prática de ajuste fina

Este repositório contém o código e os dados do Auto Standard Generator , um projeto do primeiro ano desenvolvido por uma equipe de cinco estudantes de graduação no Harbin Institute of Technology.

---

? Notícias

• [2024.3.25] ?? Reúna dados brutos : padrões técnicos de PDF raspados.
• [2024.3.25] ?? Limpeza e pré -processamento : texto processado em lote para conjunto de dados.
• [2024.4.23] ?? Limpeza de dados : TEXTO DELIGADO REMOVADO.

PENDÊNCIA

• Rotulando os dados : Crie dados de instruções para ajuste fino.
• Afinação
• Aceleração e compactação : empregue técnicas de aceleração e compactação do modelo para reduzir a latência e o custo da memória.
• Desenvolvimento da GUI : desenvolva interface dos usuários.

---

Breve introdução

Modelos gerais de linguagem geral (LLMS) pré-treinados de ajuste fino em um conjunto de dados menores de dados rotulados específicos para uma tarefa específica permite que os modelos aprendam os recursos específicos que são importantes para essa tarefa, melhorando assim seu desempenho.

Este projeto se concentra em ajustar um LLM general de código aberto, como LLAMA 2 ou ChatGlm 3, para especializá-lo na geração de documentos de padrões técnicos.

---

Começando

1. Preparação do ambiente

2. Construção do conjunto de dados

3. Tuneamento fino supervisionado