หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>โค้ดแหล่งที่มา AI
ดาวน์โหลด

อมตะ

การใช้งานที่เรียบง่ายและ "เล็ก" ของหลายรุ่นหลายรูปแบบ รองรับการฝึกอบรม/finetuning/ปรับใช้โมเดลขนาดเล็กเหล่านี้ ซึ่งแตกต่างจากรุ่น "ขนาดใหญ่" ยอดนิยมทุกรุ่นใน repo นี้จะถูก จำกัด ให้ฝึกอบรมบน RTX 3080 TI ของฉันดังนั้นการใช้งานจะไม่เหมือนกันกับเอกสารต้นฉบับทั้งหมด

เริ่มต้นอย่างรวดเร็ว

สร้างสภาพแวดล้อม 

 conda create -n tinym python=3.10
conda activate tinym

git clone [email protected]:RobinDong/tiny_multimodal.git
cd tiny_multimodal
python -m pip install -r requirements.txt

เตรียมชุดข้อมูลสำหรับการฝึกอบรม

ดาวน์โหลดแนวคิด -12M จาก HuggingFace ไปยังไดเรกทอรี cc12m-wds

ใช้ utils/extract_tars.py เพื่อแปลง CC12M เป็นรูปแบบพร้อมใช้งาน: 

 python utils/extract_tars.py --input_path=<YOUR_DIR>/cc12m-wds/ --output_path=<YOUR_OUTPUT_PATH> --jobs=<YOUR_CPU_CORES>

รถไฟ 

 python train.py --provider CLIP

กิตติกรรมประกาศ

repo นี้ยังคงอยู่ในการพัฒนา โปรดอดทนสำหรับรุ่นที่หลากหลายมากขึ้น

ยินดีต้อนรับปัญหาใด ๆ หรือคำขอดึง

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด