NanoPeft

纳米夫

最简单的存储库和整洁实现了不同的LORA方法，用于培训/基于变压器的模型（即，BERT，GPTS）。

为什么要纳米ft？

• Peft＆Litgit是很棒的图书馆，但是，将拥抱的脸部PEFT（参数效率微调）或Litgit套件砍成攻击，似乎很快就可以快速整合新的Lora方法并进行基准进行基准测试。
• 通过保持代码如此简单，可以很容易地满足您的需求，从层/目录中的论文中添加新的Lora方法，并根据您的需求轻松调整。
• 这主要用于实验/研究目的，而不是用于可扩展的解决方案。

安装

与pip

您应该使用pip命令安装纳米ft

pip3 install git+https://github.com/monk1337/NanoPeft.git