ในการประชุม GTC เมื่อวันที่ 18 มีนาคม Jensen Huang ซีอีโอของ Nvidia ประกาศแผนการที่น่าตื่นเต้นเพื่อเพิ่มความเร็วในการประมวลผลปัญญาประดิษฐ์ของ Deepseek 30 ครั้งด้วยซอฟต์แวร์ Dynamo ที่เพิ่งเปิดตัว การเคลื่อนไหวคือการตอบสนองของ Nvidia ต่อความวุ่นวายในตลาดที่เกิดจากโครงการปัญญาประดิษฐ์ R1 ของ Deepseek เทคโนโลยีของ Deepseek สามารถลดปริมาณการคำนวณที่จำเป็นสำหรับการสืบค้นแต่ละครั้งได้อย่างมากทำให้นักลงทุนนำเสนอความกังวลเกี่ยวกับโอกาสในอนาคตของ Nvidia
ซอฟต์แวร์ไดนาโมของ NVIDIA สามารถจัดสรรงานการอนุมาน AI ให้สูงถึง 1,000 GPU ในการประมวลผลแบบขนานซึ่งเป็นการปรับปรุงปริมาณการค้นหาอย่างมาก Huang Renxun กล่าวว่าการใช้ชิป Blackwell ใหม่ Dynamo สามารถให้กำลังการประมวลผลได้ 30 เท่าภายใต้สถาปัตยกรรมเดียวกัน การปรับปรุงความสามารถนี้ช่วยให้ศูนย์ข้อมูล AI สามารถประมวลผลโทเค็นต่อวินาทีได้มากขึ้นซึ่งจะเป็นการเพิ่มรายได้โดยรวม
โดยเฉพาะซอฟต์แวร์ไดนาโมสามารถเพิ่มการประมวลผลต่อวินาทีในราคา 1 ดอลลาร์ต่อล้านโทเค็น ซึ่งหมายความว่าผู้ให้บริการสามารถเลือกที่จะประมวลผลการสอบถามของลูกค้าได้มากขึ้นในเวลาเดียวกันหรือให้บริการที่แข็งแกร่งขึ้นแก่ผู้ใช้รายเดียวซึ่งจะเรียกเก็บค่าธรรมเนียมที่สูงขึ้น Nvidia เรียกบริการ AI ที่มีประสิทธิภาพสูงนี้ว่า "AI Factory"
เพื่อเพิ่มประสิทธิภาพการทำงานของ Deepseek ต่อไป Nvidia ได้เปิดตัวรุ่น Deepseek R1 ที่ปรับแต่งใน HuggingFace รุ่นนี้ใช้จำนวนบิตที่คำนวณได้น้อยลงคือ "FP4" ซึ่งปรับปรุงประสิทธิภาพอย่างมากโดยไม่ลดความแม่นยำของโมเดลอย่างมีนัยสำคัญ
นอกเหนือจากไดนาโมแล้ว Nvidia ยังได้เปิดตัว Blackwell Chip "Ultra" เวอร์ชันล่าสุดซึ่งช่วยเพิ่มความจุหน่วยความจำและประสิทธิภาพโดยรวม นอกจากนี้ Nvidia ได้เปิดตัว DGX Spark อย่างเป็นทางการซึ่งเป็นคอมพิวเตอร์ส่วนบุคคลขนาดเล็กสำหรับนักพัฒนา AI และอัปเดตการกำหนดค่าของคอมพิวเตอร์เดสก์ท็อปสถานี DGX
ในการประชุมครั้งนี้ Nvidia ยังนำเสนอผลิตภัณฑ์ใหม่และโครงการความร่วมมืออื่น ๆ อีกหลายรายการรวมถึงสวิตช์เครือข่ายที่ได้รับการปรับปรุงและโมเดลซอฟต์แวร์สำหรับหุ่นยนต์ทางการแพทย์แสดงให้เห็นถึงความสามารถด้านนวัตกรรมของ Nvidia ในสาขา AI และคอมพิวเตอร์
ประเด็นสำคัญ:
Nvidia เปิดตัวซอฟต์แวร์ Dynamo ซึ่งเพิ่มความเร็วในการประมวลผลของ Deepseek AI 30 ครั้ง
ผ่าน Dynamo ผู้ให้บริการสามารถจัดการกับการสืบค้นลูกค้าได้อย่างมีประสิทธิภาพมากขึ้นและเพิ่มรายได้
ชิป Blackwell รุ่นใหม่ "Ultra" และ DGX Spark ได้รับการปล่อยตัวอย่างเป็นทางการในการประชุม