NanoPeft

納米夫

最簡單的存儲庫和整潔實現了不同的LORA方法，用於培訓/基於變壓器的模型（即，BERT，GPTS）。

為什麼要納米ft？

• Peft＆Litgit是很棒的圖書館，但是，將擁抱的臉部PEFT（參數效率微調）或Litgit套件砍成攻擊，似乎很快就可以快速整合新的Lora方法並進行基准進行基準測試。
• 通過保持代碼如此簡單，可以很容易地滿足您的需求，從層/目錄中的論文中添加新的Lora方法，並根據您的需求輕鬆調整。
• 這主要用於實驗/研究目的，而不是用於可擴展的解決方案。

安裝

與pip

您應該使用pip命令安裝納米ft

pip3 install git+https://github.com/monk1337/NanoPeft.git