Musk promet de fournir « l’IA la plus puissante du monde » d’ici la fin de l’année
Le PDG de Tesla et propriétaire de Twitter/X, Elon Musk, a annoncé lundi que ses startups d'IA, xAI, avaient officiellement commencé à former son supercalculateur de Memphis, ce qu'il décrit comme « le cluster de formation en IA le plus puissant au monde ».
Une fois pleinement opérationnel, Musk prévoit de l'utiliser pour construire « l'IA la plus puissante au monde selon tous les paramètres d'ici décembre de cette année », ce qui sera vraisemblablement Grok 3 .
Beau travail de l'équipe @xAI , de l'équipe @X , de @Nvidia & aider les entreprises à démarrer la formation Memphis Supercluster à environ 4 h 20, heure locale.
Avec 100 000 H100 refroidis par liquide sur une seule structure RDMA, il s’agit du cluster de formation en IA le plus puissant au monde !
— Elon Musk (@elonmusk) 22 juillet 2024
La « Gigafactory of Compute » de xAI, où est hébergé le supercalculateur, est située dans une ancienne usine de production d'Electrolux à Memphis, Tennessee, et a été annoncée le mois dernier. Selon Musk, le cluster de formation utilisera 100 000 GPU H100 de Nvidia. Ceux-ci sont basés sur la microarchitecture Hopper dans un réseau environ quatre fois plus grand que les clusters de pointe actuels . Ceux-ci incluent le GPU Intel Aurora de 60 000 au Argonne National Lab, le ~38 000 GPU AMD Frontier à Oak Ridge et l'Eagle de Microsoft , qui exécute 14 400 GPU NVIDIA H100.
L'ouverture de ce centre de formation constitue le plus gros investissement en capital réalisé par une entreprise nouvelle sur le marché dans l'histoire de Memphis, selon le président-directeur général de la Chambre du Grand Memphis, Ted Townsend . Le supercalculateur sera utilisé « pour alimenter et financer l’espace IA pour toutes ses entreprises [de Musk] en premier lieu, évidemment avec Tesla et SpaceX », a-t-il déclaré. "Si vous pouvez imaginer la puissance de calcul nécessaire pour placer des humains à la surface de Mars, cela se produira ici à Memphis."
Cependant, malgré l’investissement de plusieurs milliards de dollars de xAI, l’installation ne devrait générer que quelques centaines d’emplois locaux. De plus, « [la Tennessee Valley Authority] n'a pas de contrat en place avec xAI », selon un rapport du WREG.
Ils "travaillent avec xAI et nos partenaires de [Memphis Light, Gas and Water] sur les détails de la proposition et les besoins de la demande d'électricité". TVA a également souligné que tout projet de plus de 100 mégawatts (MW) nécessite son approbation pour se connecter au réseau électrique de l'État. L'installation de Musk pourrait consommer jusqu'à 150 MW pendant les périodes de pointe, estime le président de la MLGW, Doug McGowen.