การฝึกอบรม AI ยินดีต้อนรับความก้าวหน้า! กรอบงาน CoMERA ใหม่ช่วยลดต้นทุนการฝึกอบรมโมเดลและการใช้ทรัพยากรได้อย่างมาก
การฝึกอบรมโมเดล AI ขนาดใหญ่ (เช่น Transformers และโมเดลภาษา) กลายเป็นส่วนเชื่อมโยงหลักที่ขาดไม่ได้ในสาขา AI แต่ยังต้องเผชิญกับต้นทุนการประมวลผลที่สูง การใช้หน่วยความจำ และความต้องการพลังงานอีกด้วย ตัวอย่างเช่น GPT-3 ของ OpenAI มีพารามิเตอร์ 175 พันล้านพาร
2024-12-28
