Auto_Standard_Generator

Авто стандартный генератор: практика с тонкой настройкой

Этот репозиторий содержит код и данные для Auto Standard Generator , первокурсника, разработанного командой из пяти студентов бакалавриата в Технологическом институте Харбина.

---

? Новости

• [2024.3.25] ?? Соберите необработанные данные : скрещенные технические стандарты PDF.
• [2024.3.25] ?? Очистка и предварительная обработка : пакетный текст для набора данных.
• [2024.4.23] ?? Очистка данных : снятый искаженный текст.

Тодо

• Маркировка данных : создайте данные инструкции для точной настройки.
• Тонкая настройка
• Ускорение и сжатие : используйте методы ускорения модели и сжатия для снижения задержки вывода и стоимости памяти.
• Разработка графического интерфейса : разработка интерфейса пользователей.

---

Краткое введение

Прекрасная настройка предварительно обученных общих крупных языковых моделей (LLMS) на меньшем наборе данных помеченных данных, специфичных для конкретной задачи, позволяет моделям изучать конкретные функции, которые важны для этой задачи, тем самым улучшая ее производительность.

Этот проект фокусируется на точной настройке генерального LLM с открытым исходным кодом, такого как Llama 2 или Chatglm 3, чтобы специализироваться на его создании документов технических стандартов.

---

Начиная

1. Подготовка среды

2. Построение набора данных

3. Под наблюдением тонкой настройки