NanoPeft

Nanopeft

O repositório mais simples e a implementação limpa de diferentes métodos LORA para modelos baseados em treinamento/ajuste de ajuste fino (ou seja, Bert, GPTs).

Por que nanopeft?

• Peft & Litgit são ótimas bibliotecas, no entanto, invadir o Hugging Face Peft (ajuste fino com eficiência de parâmetro) ou pacotes de litgit parecem muito trabalho para integrar um novo método LORA rapidamente e compará-lo rapidamente.
• Mantendo o código tão simples, é muito fácil invadir suas necessidades, adicionar novos métodos LORA dos artigos nas camadas/ diretório e ajustar facilmente as suas necessidades.
• Isso é principalmente para fins experimentais/de pesquisa, não para soluções escaláveis.

Instalação

Com pip

Você deve instalar o nanopeft usando o comando pip

pip3 install git+https://github.com/monk1337/NanoPeft.git