NanoPeft

Нанопфтф

Самая простая репозитория и аккуратная реализация различных методов LORA для обучения/тонкой настройки моделей на основе трансформаторов (IE, BERT, GPT).

Почему нанопафт?

• Peft & Litgit-отличные библиотеки, однако, взломать обнимающееся лицо PEFT (эффективная точная настройка параметров) или пакеты Litgit, кажется, как и много работы по быстрому интеграции нового метода LORA и его оценки.
• Сохраняя код таким простым, очень легко взломать ваши потребности, добавьте новые методы LORA из бумаг в слоях/ каталоге и легко настраивать в соответствии с вашими потребностями.
• Это в основном для экспериментальных/исследовательских целей, а не для масштабируемых решений.

Установка

С Pip

Вы должны установить Nanopeft с помощью PIP -команды

pip3 install git+https://github.com/monk1337/NanoPeft.git