L’éditeur de Downcodes vous fera découvrir Colossus, le cluster de formation en IA le plus puissant au monde ! NVIDIA et xAI ont uni leurs forces pour créer un cluster de supercalculateurs composé de 100 000 GPU NVIDIA Hopper. Sa puissante puissance de calcul sera utilisée pour former la série Grok de grands modèles de langage de xAI et fournir des services de chatbot aux utilisateurs de X Premium. Cette coopération marque un nouveau sommet du développement technologique dans le domaine de l’IA et annonce également des possibilités illimitées pour les futures applications de l’IA. Le lancement de Colossus favorisera sans aucun doute des progrès révolutionnaires dans la technologie de l’IA dans divers domaines, ce qui mérite d’être attendu.
Aujourd'hui, NVIDIA a annoncé que le cluster de supercalculateurs Colossus construit en coopération avec xAI était officiellement en ligne. Il s'agit du cluster de formation en IA le plus puissant au monde, composé de 100 000 GPU NVIDIA Hopper.
Ce géant est capable d'atteindre une telle échelle grâce à la prise en charge de la plate-forme réseau Ethernet NVIDIA Spectrum-X. Cette plate-forme est conçue spécifiquement pour les usines d'IA multi-locataires à très grande échelle, permettant un accès direct à la mémoire à distance via Ethernet standard pour offrir des performances supérieures.
Colossus est principalement utilisé pour former la série Grok de modèles de langage à grande échelle de xAI et fournit également des services de chatbot pour les utilisateurs de X Premium. Ce qui est encore plus excitant, c'est que xAI prévoit de doubler la taille de Colossus, qui atteindra 200 000 GPU NVIDIA Hopper.
Gilad Shainer, vice-président senior de NVIDIA, a déclaré que l'IA est devenue un besoin clé dans diverses industries, de sorte que les exigences en matière de performances, de sécurité, d'évolutivité et de rentabilité augmentent également constamment. L'émergence de la plateforme Spectrum-X offre aux innovateurs comme xAI des capacités de traitement, d'analyse et d'exécution des données plus rapides, accélérant ainsi le développement, le déploiement et la mise sur le marché des solutions d'IA.
Elon Musk a également exprimé son appréciation. Il a qualifié Colossus de système de formation le plus puissant au monde et a salué les efforts de l'équipe xAI, de NVIDIA et de leurs nombreux partenaires. Il convient de mentionner que le processus de construction de Colossus a été assez efficace et n'a pris que 122 jours. Dans des circonstances normales, un système d'une ampleur similaire peut prendre des mois, voire des années. De l'entrée du premier rack au début de la formation, l'ensemble du processus n'a pris que 19 jours.
Alimentée par ce supercalculateur, la plate-forme Spectrum-X peut fournir une bande passante allant jusqu'à 400 Gbit/s, augmentant considérablement les taux de transfert de données et réduisant la latence. Cette fonctionnalité est essentielle pour les entreprises qui nécessitent un traitement rapide des données et une analyse en temps réel. De plus, Spectrum-X est optimisé pour prendre en charge spécifiquement les applications d'IA, rendant le routage et la gestion des données plus intelligents, améliorant ainsi les performances globales du système.
L'architecture Colossus est conçue pour évoluer efficacement afin de gérer les quantités massives de données générées par les applications modernes. Dans le même temps, Spectrum-X se concentre également sur le développement durable, en s'efforçant de réduire la consommation d'énergie des centres de données tout en maintenant des performances élevées, aidant ainsi les organisations à réduire leur empreinte carbone.
Le lancement réussi de Colossus démontre les capacités continues d'investissement et d'innovation des géants de la technologie dans le domaine de l'IA, et fournit également une nouvelle référence pour l'orientation future du développement de la technologie de l'IA. Je pense que dans un avenir proche, nous verrons davantage d’applications révolutionnaires basées sur Colossus, promouvant la technologie de l’IA pour mieux servir la société humaine. Dans l’attente d’autres surprises de xAI et NVIDIA !