在3月18日的GTC大会上,Nvidia首席执行官黄仁勋宣布了一项令人振奋的计划,旨在通过新推出的软件Dynamo,将DeepSeek的人工智能处理速度提高30倍。此举是Nvidia对DeepSeek公司R1人工智能程序引发的市场动荡的回应。 DeepSeek的技术能够显着降低每个查询所需的计算量,导致投资者对Nvidia的未来前景表示担忧。

Nvidia的Dynamo软件能够将AI推理任务分配到多达1000个GPU上并行处理,极大地提升了查询吞吐量。黄仁勋表示,使用新的Blackwell芯片,Dynamo能够在相同的架构下提供30倍的处理能力。这种能力的提升使得AI数据中心可以在每秒内处理更多的tokens,从而提高整体收入。
具体来说,Dynamo软件能够以每百万个tokens $1的价格,提升每秒的处理量。这意味着,服务提供商可以选择同时处理更多客户的查询,或是为单一用户提供更强大的服务,从而收取更高的费用。 Nvidia称这种高性能的AI服务为“AI工厂”。
为了进一步增强DeepSeek的性能,Nvidia还在HuggingFace上发布了经过调整的DeepSeek R1版本。这一版本使用了更少的计算位数,即“FP4”,从而在不显着降低模型准确性的前提下,大幅提升了性能。
除了Dynamo,Nvidia还推出了最新版本的Blackwell芯片“Ultra”,提升了内存容量和整体性能。此外,Nvidia还正式发布了供AI开发者使用的小型个人计算机DGX Spark,并更新了DGX Station桌面计算机的配置。
在此次大会上,Nvidia还展示了其他多项新产品和合作项目,包括改进的网络交换机和适用于医疗机器人的软件模型,展示了Nvidia在AI和计算领域的持续创新能力。
划重点:
Nvidia推出Dynamo软件,将DeepSeek AI的处理速度提升30倍。
通过Dynamo,服务提供商能够更高效地处理客户查询,提高收入。
新版Blackwell芯片“Ultra”和DGX Spark计算机也在大会上正式发布。