Nvidia CEO 인 Jensen Huang은 3 월 18 일 GTC 회의에서 새로 출시 된 소프트웨어 Dynamo와 함께 Deepseek의 인공 지능 처리 속도를 30 배 증가시키기위한 흥미로운 계획을 발표했습니다. 이 조치는 Deepseek의 R1 인공 지능 프로그램으로 인한 시장 혼란에 대한 Nvidia의 반응입니다. DeepSeek의 기술은 각 쿼리에 필요한 계산량을 크게 줄일 수 있으며, 투자자는 NVIDIA의 미래 전망에 대한 우려를 표현하도록 이끌었습니다.
NVIDIA의 Dynamo 소프트웨어는 병렬 처리에서 AI 추론 작업을 최대 1,000 GPU로 할당하여 쿼리 처리량을 크게 향상시킬 수 있습니다. Huang Renxun은 새로운 Blackwell Chip을 사용하여 Dynamo는 동일한 아키텍처에서 처리 능력의 30 배를 제공 할 수 있다고 말했다. 이 기능 개선을 통해 AI 데이터 센터는 초당 더 많은 토큰을 처리하여 전체 수익을 증가시킬 수 있습니다.
특히 Dynamo 소프트웨어는 백만 토큰 당 $ 1의 가격으로 초당 처리를 증가시킬 수 있습니다. 이는 서비스 제공 업체가 더 많은 고객의 쿼리를 동시에 처리하거나 단일 사용자에게 더 강력한 서비스를 제공하여 더 높은 수수료를 청구 할 수 있음을 의미합니다. Nvidia는이 고성능 AI 서비스를 "AI 공장"이라고 부릅니다.
DeepSeek의 성능을 더욱 향상시키기 위해 Nvidia는 Huggingface에서 조정 된 Deepseek R1 버전을 출시했습니다. 이 버전은 더 적은 계산 비트 수, 즉 "FP4"를 사용하여 모델 정확도를 크게 줄이지 않고 성능을 크게 향상시킵니다.
Nvidia는 Dynamo 외에도 최신 버전의 Blackwell Chip "Ultra"를 출시하여 메모리 용량과 전반적인 성능을 향상 시켰습니다. 또한 NVIDIA는 AI 개발자를위한 작은 개인용 컴퓨터 인 DGX Spark를 공식적으로 출시했으며 DGX 스테이션 데스크탑 컴퓨터의 구성을 업데이트했습니다.
이 회의에서 NVIDIA는 의료 로봇을위한 개선 된 네트워크 스위치 및 소프트웨어 모델을 포함하여 여러 가지 새로운 제품 및 협업 프로젝트를 발표하여 AI 및 컴퓨팅 분야에서 NVIDIA의 지속적인 혁신 기능을 보여줍니다.
핵심 사항 :
NVIDIA는 Dynamo 소프트웨어를 출시하여 DeepSeek AI의 처리 속도를 30 번 증가시킵니다.
Dynamo를 통해 서비스 제공 업체는 고객 쿼리를보다 효율적으로 처리하고 수익을 높일 수 있습니다.
Blackwell Chip "Ultra"및 DGX Spark 컴퓨터의 새로운 버전도 공식적으로 컨퍼런스에서 출시되었습니다.