flan t5 fine tune скачать - flan t5 fine tune Tun

flan t5 fine tune

AI Исходный код

1.0.0

Скачать

Тонкая настройка Flan-T5

Этот проект направлен на то, чтобы точно настроить языковую модель Flan-T5, используя библиотеку Transformers Hugging Face. Следуя этим шагам, вы можете точно настроить модель и использовать ее для вывода.

Предварительные условия

Прежде чем начать работу, убедитесь, что у вас есть следующее:

Объятие токена API API (токен HF)
Python установлен в вашей системе
Графический процессор с поддержкой CUDA (для обучения)

Настраивать

Клонировать этот репозиторий на местную машину.
```
git clone https://github.com/mltrev23/Fine-Tuning-LLaMA-2/
```
Установите необходимые пакеты, используя следующую команду:
```
pip install -r requirements.txt
```

Тонкая настройка Flan-T5

Доступно четыре метода точной настройки:

Аддитивная точная настройка : добавляет слои для тренировки.
```
python additive-fine-tuning.py
```
Полная тонкая настройка : тренируется все веса модели.
```
python full-fine-tuning.py
```
Селективная тонкая настройка : выбирает конкретные слои оригинальной модели для обучения.
```
python selective-fine-tuning.py
```
Шаблон тонкая настройка : использует предопределенный шаблон для обучения. Шаблон может быть изменен по мере необходимости.

Пользовательский прием данных

Чтобы пригласить свои собственные данные для точной настройки, измените код в своих сценариях для загрузки вашего набора данных. Вот пример загрузки текстового набора данных:

 from transformers import LineByLineTextDataset

dataset = LineByLineTextDataset ( tokenizer = tokenizer , file_path = 'datasets/bittensor.txt' , block_size = 128 )

Вывод

Чтобы сделать вывод, используя тонкую модель Flan-T5, вы можете использовать следующие сценарии:

Создание использования прямого прохода : этот скрипт демонстрирует генерирование текста с использованием подхода прямого прохода.
```
python generate-using-forward.py
```
Основной сценарий вывода : этот скрипт обеспечивает простой способ генерации выходов из модели.
```
python main.py
```

Пример вывода

Вы можете изменить входной текст в файле main.py , чтобы проверить модель:

 input_text = [ "What is FAANG?" ]

Это будет генерировать выход на основе предоставленного входа.

Счастливой тонкой настройки!

Не стесняйтесь модифицировать сценарии по мере необходимости для ваших конкретных задач и наборов данных. Если вы сталкиваетесь с какими -либо проблемами, проверьте документацию об объятиях или обратитесь за помощью к сообществу.

Резюме структуры Readme

Название и введение : описывает цель проекта.
Предварительные условия : перечисляет необходимые требования.
Настройка : Инструкции по клонированию репо, настройки среды и установке зависимостей.
Методы тонкой настройки : подробно рассказывают о четырех методах, доступных для точной настройки.
Пользовательское употребление данных : приведен пример того, как загрузить пользовательские наборы данных.
Вывод : объясняет, как сделать вывод с помощью тонкой настройки модели, включая примеры сценариев.
Вывод : поощряет пользователей изменять сценарии и обращаться за помощью, если это необходимо.