На конференции GTC 18 марта генеральный директор NVIDIA Дженсен Хуан объявил о захватывающем плане по увеличению скорости обработки искусственного интеллекта DeepSeek на 30 раз с недавно запущенным программным динамо. Этот шаг - реакция NVIDIA на рыночные беспорядки, вызванные программой DeepSeek по искусственному интеллекту R1. Технология DeepSeek способна значительно сократить объем вычислений, необходимых для каждого запроса, ведущие инвесторы выражают обеспокоенность по поводу будущих перспектив Nvidia.
Программное обеспечение Nvidia's Dynamo может распределять задачи вывода AI до 1000 графических процессоров при параллельной обработке, значительно повышая пропускную способность запросов. Хуан Ренксун сказал, что, используя новый чип Blackwell, Dynamo может обеспечить в 30 раз больше мощности обработки под той же архитектурой. Это улучшение возможностей позволяет центрам обработки данных ИИ обрабатывать больше токенов в секунду, тем самым увеличивая общий доход.
В частности, программное обеспечение Dynamo может увеличивать обработку в секунду по цене 1 доллар за миллион токенов. Это означает, что поставщики услуг могут одновременно обрабатывать больше запросов клиентов или предоставлять более сильные услуги одному пользователю, тем самым взимая более высокую плату. Nvidia называет эту высокопроизводительную службу искусственного интеллекта «фабрикой ИИ».
Чтобы еще больше повысить производительность Deepseek, Nvidia также выпустила настроенную версию Deepseek R1 на Huggingface. В этой версии используется меньше расчетных битовых подсчетов, а именно «FP4», что значительно повышает производительность без значительного снижения точности модели.
В дополнение к Dynamo, Nvidia также запустила последнюю версию чипа Blackwell «Ultra», которая улучшает способность памяти и общую производительность. Кроме того, NVIDIA официально выпустила DGX Spark, небольшой персональный компьютер для разработчиков ИИ, и обновила конфигурацию настольного компьютера DGX Station.
На этой конференции Nvidia также представила несколько других новых продуктов и проектов по совместной работе, включая улучшенные сетевые переключатели и программные модели для медицинских роботов, демонстрируя продолжительные возможности инноваций Nvidia в области искусственного интеллекта и вычислений.
Ключевые моменты:
Nvidia запускает Dynamo Software, которое увеличивает скорость обработки DeepSeek AI в 30 раз.
Через динамо поставщики услуг могут более эффективно обрабатывать запросы клиентов и увеличить доход.
Новая версия Blackwell Chip "Ultra" и компьютеров DGX Spark также была официально выпущена на конференции.