Le grand pari de Jen-Hsun Huang de Nvidia : marcher au bord de la faillite pour construire un « marchand d’armes » d’IA d’une valeur de mille milliards de dollars

Les revenus ont triplé pour atteindre 18,1 milliards de dollars et les bénéfices ont grimpé à 9,2 milliards de dollars, contre 680 millions de dollars pour la même période l'an dernier.

Sous la vague de l'IA, Nvidia a dépassé les attentes au cours du dernier trimestre, prenant la couronne à TSMC et devenant le « roi des puces » grâce à ses performances « explosives ».

Une guerre est en cours dans le domaine de l’intelligence artificielle, et Nvidia est le seul marchand d’armes.

Un analyste de Wall Street a commenté un jour.

Le « dividende de l'IA » dont bénéficie aujourd'hui Nvidia vient du « grand pari » de Huang Renxun il y a plus de dix ans. Grâce à un récent article approfondi du New Yorker, nous pouvons voir plus de détails derrière ce « pari » décisif.

Le succès n’est jamais garanti et la faillite est toujours au bord.

Le moment du « big bang » qui a déclenché l’intelligence artificielle

C'était la première console de jeu à résolution 8K, et elle occupait tout le mur. C'était tellement beau.

En 2000, Ian Buck, étudiant à Stanford, a construit sa propre console de jeu haute définition en connectant 32 cartes graphiques Nvidia GeForce ensemble et en ajoutant 8 projecteurs pour jouer à « Quake ».

Initialement, le succès de NVIDIA GeForce est venu grâce au jeu "Quake". Dans le mode "Deathmatch" du jeu, le calcul parallèle du GPU donne aux joueurs un avantage en termes de vitesse, de sorte que chaque fois que GeForce lance un nouveau produit, les joueurs suivent le rythme.

Buck était également curieux de savoir ce que GeForce pouvait faire en plus de se forcer à lancer des grenades plus rapidement.

Plus tard, Buck a réussi à pirater l'outil de programmation original "shader" de la carte graphique et à utiliser son calcul parallèle pour transformer GeForce en un supercalculateur à faible coût.

Il n’a pas fallu longtemps pour que Buck devienne un employé de NVIDIA.

Huang Renxun voulait que Buck crée un ensemble de logiciels qui transformeraient chaque GeForce en supercalculateur. Dans le même temps, l'équipe matérielle est également autorisée à effectuer les modifications correspondantes dans la structure de la puce.

En 2006, le CUDA de Buck pour NVIDIA a été officiellement lancé, permettant aux chercheurs et aux programmeurs d'utiliser des langages de programmation pour utiliser de manière plus personnelle et plus efficace la puissance de calcul des GPU.

Cependant, les consommateurs sont peu intéressés par le supercalculateur que Huang Renxun souhaite populariser. "Acquired", un podcast technologique populaire dans la Silicon Valley, a commenté :

Ils ont dépensé d’énormes sommes d’argent pour cette nouvelle architecture de puce.

Ils ont dépensé des milliards de dollars dans le but de servir un secteur de niche de l’informatique académique et scientifique, qui était à l’époque un petit marché – certainement inférieur aux milliards qu’ils ont investis.

À cette époque, NVIDIA ratissait également large et essayait de trouver des clients cibles. J'ai essayé les traders en bourse, les sociétés d'exploration pétrolière, les biologistes moléculaires, etc., mais je n'ai pas envisagé le domaine de l'intelligence artificielle.

On n’avait même pas l’impression que le « Parrain de l’IA » avait pris l’initiative de « venir à votre porte ».

Pas étonnant.

Aujourd’hui, nous appellerions Geoffrey Hinton le « parrain de l’IA ».

Cependant, en 2009, Hinton était dans le domaine de l'IA qui n'était pas apprécié du capital, et ses recherches dans ce domaine étaient encore considérées comme un « réseau neuronal » de niche.

Hinton a écrit cet e-mail à Nvidia cette année-là :

Je viens de dire à des milliers de chercheurs en apprentissage automatique qu'ils devraient tous acheter des cartes graphiques NVIDIA. Pouvez-vous m'en envoyer un gratuitement ?

résultat? Bien sûr, cela a été rejeté.

Avant cela, Hinton avait essayé d'utiliser la plate-forme NVIDIA CUDA pour entraîner un réseau neuronal à reconnaître le langage humain. Il a constaté que la qualité des résultats était bien meilleure que prévu, il a donc décidé de le présenter lors d'une conférence industrielle.

Bien que Nvidia ait refusé d'envoyer une carte graphique à Hinton, Hinton a quand même encouragé les étudiants à l'utiliser.

Les plus critiques d'entre eux sont ses deux programmeurs exceptionnels, Alex Krizhevsky et Ilya Sutskever.

Les lecteurs avisés auraient dû découvrir que ce dernier est le scientifique en chef d’OpenAI, la personne qui dirige la technologie derrière ChatGPT.

En 2012, Sutskever et Krizhevsky ont acheté deux cartes graphiques NVIDIA GeForce, ont introduit des millions de données d'image dans le réseau neuronal en une semaine et ont formé « AlexNet ». Sutskever a rappelé par la suite :

Le GPU est arrivé et c’était comme un miracle.

Son soupir n'était pas sans raison.

La même année également, Google a acheté plus de 16 000 processeurs pour entraîner son réseau neuronal afin qu'il puisse reconnaître les vidéos de chats.

Cependant, AlexNet peut identifier correctement les images de véhicules électriques, de guépards, de cargos, etc., en utilisant seulement deux GPU.

En 2012, lors du ImageNet Large Scale Visual Recognition Challenge, qui faisait encore autorité cette année-là, AlexNet a remporté le championnat avec une erreur dans le top 5 de 15,3 %, ce qui était bien meilleur que la deuxième place et les concurrents précédents. qu'il était autrefois soupçonné de tricherie. Hinton a commenté :

C’était une sorte de moment de big bang. Un changement de paradigme.

Même si ce n’était pas intentionnel, NVIDIA a déclenché le « big bang » de l’intelligence artificielle.

Devenez une entreprise d'IA

(Huang Renxun) Il a envoyé un e-mail vendredi soir disant que tout dans l'entreprise tournerait autour de l'apprentissage profond et que nous ne sommes plus une société d'imagerie.

Tôt le lundi suivant, nous sommes devenus une entreprise d’IA.

Vraiment, c'est si rapide.

» a déclaré le vice-président de Nvidia, Greg Estes, au New Yorker.

Après les débuts d'AlexNet, quelques années plus tard, presque tous ceux qui participaient à des défis de reconnaissance visuelle à grande échelle ont choisi la forme de réseaux de neurones.

Au milieu des années 2010, la précision de la reconnaissance d’images des réseaux neuronaux entraînés avec des GPU avait atteint 96 %, un niveau de précision qui dépassait même celui des humains.

La vision du superordinateur de Huang Renxun s'est réalisée et il a commencé à chercher son prochain objectif :

Le fait que nous puissions résoudre un problème de vision par ordinateur, un problème totalement non structuré, soulève la question : « Que pouvez-vous lui apprendre d'autre ?

La réponse intérieure de Huang Renxun semble être : tout.

Il pense que les réseaux de neurones vont changer la société et qu'il peut également utiliser CUDA pour monopoliser le marché du matériel nécessaire à leur fonctionnement.

Il a fait le grand saut et a lancé l'aventure de l'IA de Nvidia.

Cette fois, les leaders de l'industrie de l'IA n'ont plus besoin d'écrire des e-mails à Nvidia pour demander des cartes graphiques gratuites.

En août 2016, Huang Renxun a personnellement livré le premier DGX-1 au monde au bureau d'OpenAI.

Musk, qui n'avait pas encore rompu avec OpenAI à l'époque, a personnellement déballé le produit dont la construction a nécessité trois ans à 3 000 personnes.

Dans le communiqué de presse officiel, Huang a déclaré en plaisantant :

Si c'était le seul produit expédié, le projet coûterait 2 milliards de dollars.

Qui aurait pensé que l'année prochaine, Google annoncerait une nouvelle architecture de formation de réseau neuronal, Transformer.

Cette nouvelle avancée a été capturée par Sutskever, conduisant OpenAI à créer le premier modèle GPT, tous construits sur des supercalculateurs NVIDIA.

Il y a un an aujourd'hui, OpenAI rendait officiellement ChatGPT public, changeant tout, y compris Nvidia.

Les commandes sont infinies et l’offre dépasse la demande.

En 2023, le cours de l'action Nvidia a grimpé de plus de 200 %, devenant ainsi le premier fabricant de puces au monde avec une valeur marchande supérieure à mille milliards de dollars américains.

CUDA, qui n'était autrefois pas optimiste, a également rassemblé 4 millions de développeurs et est devenu un autre « fossé » pour NVIDIA dans le domaine de l'IA.

Qu'il s'agisse de recherches dans les domaines de l'aérospatiale, des biosciences, des machines, de l'exploration énergétique et d'autres domaines, la plupart d'entre elles sont menées sur CUDA.

Le dernier produit d'IA de NVIDIA, le DGX H100, est un boîtier métallique pesant 370 livres et vendu au prix de 500 000 dollars.

Comparé au DGX-1 envoyé au bureau OpenAI à l'époque, le nouveau produit fonctionne cinq fois plus vite.

Si vous souhaitez former AlexNet, vous pouvez le faire en une minute.

Le gagnant qui est toujours « au bord de la faillite »

En septembre de cette année, Huang a été invité à nouveau au restaurant Denny's à San Jose, en Californie.

A cette époque, il rédige des documents avec ses partenaires sur le stand de ce restaurant et crée Nvidia.

Ils voulaient concevoir une puce qui rendrait les concurrents « verts de jalousie ». Jen-Hsun Huang a proposé le nom « Nvidia », incorporant le mot latin « invidia ».

Aujourd'hui, Nvidia est certainement jaloux de ses concurrents : même le PDG de la chaîne de restaurants Denny's a spécialement réalisé une plaque commémorative pour eux, afin que la lumière de Nvidia puisse briller dans le restaurant.

Cependant, le succès de Nvidia n’est pas une histoire de « gagnant » particulièrement typique.

Lors de la création de NVIDIA, Huang Jen-Hsun, passionné de jeux vidéo, estimait que le marché du jeu méritait de meilleures cartes graphiques et a lancé son premier produit, NV1, en 1995.

Cependant, NV1 n'a pas vraiment été accepté par le marché grand public, en partie parce que Microsoft a lancé l'API D3D la même année, mais NV1 ne prend pas en charge D3D. Le produit de nouvelle génération, NV2, a également échoué.

Huang Renxun, qui a perdu son « pari » une fois, n'a pas été convaincu : en 1996, il a licencié la moitié de ses employés, resserré ses fonds et tout misé sur de nouveaux produits non testés :

Les chances sont de 50/50, mais de toute façon, nous sommes déjà au bord de la faillite.

Lorsque le RIVA 128 a été officiellement lancé, NVIDIA ne disposait que de suffisamment d'argent pour couvrir les dépenses d'un mois. Heureusement, le RIVA 128 fut un succès, avec des millions d'unités vendues en 4 mois.

Depuis lors, Huang a encouragé ses employés à travailler avec ce « désespoir ».

Pour Jen-Hsun Huang, les difficultés et les échecs ne sont pas étrangers :

Je trouve que je pense plus clairement lorsque je me trouve dans une situation difficile.

Mon rythme cardiaque chuterait même.

Il a même insisté sur le fait que « les échecs doivent être partagés ».

Auparavant, Nvidia avait envoyé une carte graphique problématique avec un ventilateur très bruyant.

Huang Renxun n'a pas licencié le responsable en charge de ce produit, mais a tenu une réunion, rassemblé des centaines de personnes et demandé au responsable de décrire chaque décision qui a finalement conduit à cette farce.

Afficher « échec » est devenu une « coutume » au sein de NVIDIA.

Cela vous permet également de déterminer rapidement qui peut rester ici et qui ne le peut pas.

Si quelqu’un commence à se défendre, je sais qu’il ne restera pas là longtemps.

a déclaré Dwight Diercks, responsable des logiciels chez Nvidia.

Huang aime également encourager ses employés à poursuivre des « marchés à zéro milliard de dollars », des domaines expérimentaux où il n'y a ni concurrents ni clients clairs.

Après tout, comme l'a dit Huang Renxun :

J'ai toujours pensé que nous n'étions qu'à 30 jours de la faillite. Cela n’a jamais changé.

Il n'y a aucune raison de ne pas essayer.

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo