AMD enlève les gants dans la course aux armements en matière d’IA

AMD semble prêt à se battre. Lors de son événement Advancing AI, la société a finalement lancé son GPU Instinct MI300X AI, dont nous avons entendu parler pour la première fois il y a quelques mois. Le développement passionnant réside dans les performances revendiquées par AMD par rapport à l’ éléphant vert de l’IA dans la pièce : Nvidia.

Spécification pour spécification, AMD affirme que le MI300X bat le GPU H100 AI de Nvidia en termes de capacité de mémoire et de bande passante mémoire, et qu'il est capable d'atteindre 1,3 fois les performances théoriques du H100 dans les opérations FP8 et FP16. AMD l'a montré avec deux grands modèles de langage (LLM) utilisant un noyau moyen et grand. Le MI300X a montré une amélioration comprise entre 1,1x et 1,2x par rapport au H100.

Dans un moment qui semble tout droit sorti d'une conférence Nvidia, Lisa Su, PDG d'AMD, a présenté la plate-forme MI300X, qui combine huit GPU sur une seule carte. AMD affirme que ces cartes offrent les mêmes performances de formation que le H100 HGX de Nvidia et 1,6 fois les performances d'inférence. De plus, AMD indique que vous pouvez exécuter deux LLM par système, alors que le H100 HGX ne peut en gérer qu'un.

Pour illustrer l'importance de cette affaire, AMD a invité Kevin Scott, directeur de la technologie de Microsoft, à expliquer comment AMD et Microsoft travaillent ensemble sur l'IA. Il est important de souligner que le très populaire ChatGPT est exécuté sur des serveurs Microsoft et qu'il a été initialement formé sur des milliers de GPU Nvidia .

En plus du MI300X, AMD a annoncé le MI300A, qui est le premier APU pour l'IA, selon AMD. Celui-ci combine l'architecture GPU CDNA 3 AI d'AMD avec 24 cœurs de processeur Zen 4, ainsi que 128 Go de mémoire HBM3. AMD affirme qu'il s'agit d'un équilibre entre les performances de l'IA et le calcul haute performance, offrant aux centres de données les prouesses du processeur que nous avons récemment vues sur Threadripper 7000 .

Bien qu’AMD ait pris le train de l’IA avec le reste du monde de la technologie, AMD a jusqu’à présent pris le pas sur Nvidia. Nvidia a commencé à investir massivement dans l'IA il y a des années, lui donnant une longueur d'avance considérable sur AMD et Intel. Cet investissement précoce a propulsé Nvidia au rang de société valant des milliards de dollars cette année.

Avec un cluster GPU positionné pour défier le H100 de Nvidia, ainsi que des partenariats avec Meta et Microsoft, AMD entre enfin sur le ring. AMD peut sortir meurtri et ensanglanté, mais il semble toujours qu'AMD soit prêt à se battre.