การใช้งานที่เก็บข้อมูลที่ง่ายที่สุดและการใช้วิธี LORA ที่แตกต่างกันสำหรับโมเดลการฝึกอบรม/การปรับแต่งแบบปรับแต่ง (เช่น BERT, GPTS)
ทำไมต้อง nanopeft?
- Peft & Litgit เป็นห้องสมุดที่ยอดเยี่ยมอย่างไรก็ตามการแฮ็คหน้ากอด PEFT (การปรับแต่งพารามิเตอร์-ประสิทธิภาพการปรับแต่ง) หรือแพ็คเกจ Litgit ดูเหมือนจะมีงานมากมายที่จะรวมวิธี LORA ใหม่อย่างรวดเร็วและเปรียบเทียบมัน
- ด้วยการรักษาโค้ดให้เรียบง่ายมันเป็นเรื่องง่ายมากที่จะแฮ็คความต้องการของคุณเพิ่มวิธีการใหม่ของ LORA จากเอกสารในเลเยอร์/ ไดเรกทอรีและปรับแต่งได้อย่างง่ายดายตามความต้องการของคุณ
- นี่คือวัตถุประสงค์ในการทดลอง/การวิจัยส่วนใหญ่ไม่ใช่สำหรับการแก้ปัญหาที่ปรับขนาดได้
การติดตั้ง
ด้วย pip
คุณควรติดตั้ง nanopeft โดยใช้คำสั่ง pip
pip3 install git+https://github.com/monk1337/NanoPeft.git