¡El editor de Downcodes te llevará a conocer Colossus, el grupo de entrenamiento de IA más poderoso del mundo! NVIDIA y xAI han unido fuerzas para crear un clúster de supercomputadoras compuesto por 100.000 GPU NVIDIA Hopper. Su potente potencia informática se utilizará para entrenar la serie Grok de grandes modelos de lenguaje de xAI y proporcionar servicios de chatbot para los usuarios de X Premium. Esta cooperación marca un nuevo nivel de desarrollo tecnológico en el campo de la IA y también presagia posibilidades ilimitadas para futuras aplicaciones de la IA. Sin duda, el lanzamiento de Colossus promoverá avances revolucionarios en la tecnología de inteligencia artificial en varios campos, algo que vale la pena esperar.
Hoy, NVIDIA anunció que el clúster de supercomputadoras Colossus construido en cooperación con xAI está oficialmente en línea. Este es el clúster de entrenamiento de inteligencia artificial Colossus más poderoso del mundo, que consta de 100,000 GPU NVIDIA Hopper.
Este gigante es capaz de alcanzar tal escala gracias al soporte de la plataforma de red Ethernet NVIDIA Spectrum-X. Esta plataforma está diseñada específicamente para fábricas de IA de gran escala y con múltiples inquilinos, lo que permite el acceso remoto directo a la memoria a través de Ethernet estándar para ofrecer un rendimiento superior.
Colossus se utiliza principalmente para entrenar la serie Grok de modelos de lenguaje a gran escala de xAI y también proporciona servicios de chatbot para usuarios de X Premium. Aún más emocionante es que xAI planea duplicar el tamaño de Colossus, que alcanzará las 200.000 GPU NVIDIA Hopper.
Gilad Shainer, vicepresidente senior de NVIDIA, afirmó que la IA se ha convertido en una necesidad clave en diversas industrias, por lo que los requisitos de rendimiento, seguridad, escalabilidad y rentabilidad también aumentan constantemente. El surgimiento de la plataforma Spectrum-X proporciona a innovadores como xAI capacidades de procesamiento, análisis y ejecución de datos más rápidas, acelerando así el desarrollo, la implementación y el tiempo de comercialización de soluciones de IA.
Elon Musk también expresó su agradecimiento. Llamó a Colossus el sistema de entrenamiento más poderoso del mundo y elogió los esfuerzos del equipo de xAI, NVIDIA y sus numerosos socios. Vale la pena mencionar que el proceso de construcción de Colossus fue bastante eficiente y solo tomó 122 días. En circunstancias normales, un sistema de escala similar puede tardar meses o incluso años en completarse. Desde la entrada del primer rack hasta el inicio de la formación, todo el proceso sólo duró 19 días.
Impulsada por esta supercomputadora, la plataforma Spectrum-X puede proporcionar un ancho de banda de hasta 400 Gbps, lo que aumenta significativamente las tasas de transferencia de datos y reduce la latencia. Esta característica es fundamental para las empresas que requieren un procesamiento rápido de datos y análisis en tiempo real. Además, Spectrum-X está optimizado para admitir específicamente aplicaciones de IA, lo que hace que el enrutamiento y la gestión de datos sean más inteligentes, mejorando así el rendimiento general del sistema.
La arquitectura Colossus está diseñada para escalarse de manera eficiente para manejar las enormes cantidades de datos generados por las aplicaciones modernas. Al mismo tiempo, Spectrum-X también se centra en el desarrollo sostenible, esforzándose por reducir el consumo de energía del centro de datos manteniendo un alto rendimiento, ayudando a las organizaciones a reducir su huella de carbono.
El exitoso lanzamiento de Colossus demuestra las continuas capacidades de inversión e innovación de los gigantes tecnológicos en el campo de la IA y también proporciona una nueva referencia para la futura dirección del desarrollo de la tecnología de IA. Creo que en un futuro próximo veremos más aplicaciones innovadoras basadas en Colossus, que promoverán la tecnología de inteligencia artificial para servir mejor a la sociedad humana. ¡Esperamos más sorpresas de xAI y NVIDIA!