Musk a échoué à plusieurs reprises, OpenAI a soudainement émergé et la guerre de l’IA dans la Silicon Valley a commencé il y a dix ans

NDLR : "Ceux qui prétendent être les plus inquiets de la crise que va entraîner l'intelligence artificielle sont en réalité ceux qui sont les plus déterminés à la créer et à profiter de la richesse qu'elle apporte."

Ce reportage du New York Times retrace la bataille de l'IA dans la Silicon Valley qui se prépare depuis 2010 :

1. Musk et le co-fondateur de Google, Larry Page, se sont "brouillés" lors d'une fête en 2015. Les deux hommes avaient des attitudes opposées à l'égard du développement de l'IA.

2. Le fondateur de DeepMind, Demis Hassabis, a d'abord utilisé les échecs pour attirer l'attention de Peter Thiel. Avec le soutien de Thiel, DeepMind a attiré l'attention et les investissements de Musk et s'est progressivement développé.

3. Le « Parrain de l'IA » Jeffrey Hinton a organisé une « vente aux enchères » et ce qu'il a « vendu », c'était lui-même et son équipe. En fin de compte, Google a acquis avec succès l'équipe du Dr Hinton.

4. Cette vente aux enchères symbolise l’entrée officielle des géants de la Silicon Valley dans la guerre de l’IA. DeepMind a « pris sa retraite » et a décidé de vendre.

5. Après la vente, DeepMind disposait à l'origine d'un « comité d'éthique » pour garantir le développement sûr de l'IA, mais ce comité est finalement devenu inefficace.

6. OpenAI rompt avec Musk et s'oriente vers une coopération avec Microsoft.

7. Dario Amodei d'OpenAI est parti pour fonder Anthropic.

8. OpenAI a réussi « l’examen » de Bill Gates et GPT a été considéré par ce dernier comme une innovation révolutionnaire.

Adresse originale : https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html

Auteurs originaux : Cade Metz, Karen Weise, Nico Grant et Mike Isaac

En juillet 2015, Elon Musk a célébré son 44e anniversaire avec une fête de trois jours organisée par sa femme dans une station viticole californienne parsemée de cabanes. Seuls la famille et les amis étaient invités, et les enfants couraient et jouaient dans la propriété haut de gamme de Napa Valley.

Il restait encore quelques années avant que Twitter devienne X et que Tesla devienne rentable. M. Musk et son épouse Talulah Riley – l'actrice qui incarne le robot magnifique mais dangereux dans le drame de science-fiction de HBO « Westworld » – sont encore proches de la fin de leur deuxième mariage d'un an. L'invité à la fête était Larry Page, alors PDG de Google. Et l'intelligence artificielle n'a commencé à être connue du public qu'il y a quelques années, lorsqu'elle a été utilisée pour identifier des chats sur YouTube – avec une précision de 16 %.

Lorsque Musk et Page ont discuté près du feu de camp au bord de la piscine après le dîner ce premier soir, l'intelligence artificielle était le sujet de leur conversation. Les deux milliardaires sont amis depuis plus d'une décennie, M. Musk plaisantant parfois en disant qu'il passait occasionnellement la nuit sur le canapé de M. Page après une séance de jeu toute la nuit.

Mais l’atmosphère au cours de cette nuit lumineuse est rapidement devenue tendue alors que les deux hommes ont commencé à débattre pour savoir si l’intelligence artificielle améliorerait ou détruirait l’humanité.

Au fur et à mesure que la discussion se prolongeait dans la fraîcheur de la nuit, l’atmosphère devenait de plus en plus tendue et une partie de la trentaine de fêtards s’était rassemblée pour écouter de plus près. Page décrit à voix basse sa vision d'une utopie numérique, après avoir souffert d'une maladie inhabituelle qui a affecté ses cordes vocales pendant plus d'une décennie. Les humains finiront par fusionner avec des machines artificiellement intelligentes, a-t-il déclaré. Un jour, de nombreux types de renseignements se disputeront les ressources, et le meilleur l’emportera.

Si cela se produit, a déclaré Musk, nous sommes foutus. Les machines détruiront l’humanité.

Avec un croassement de frustration, Page insiste sur le fait que nous devrions poursuivre l’utopie qu’il décrit. Enfin, il a qualifié Musk de « spéciste », quelqu’un qui favorise les humains par rapport aux futures formes de vie numérique.

Musk a déclaré plus tard que l’humiliation était « la goutte d’eau qui a fait déborder le vase ».

Alors que la foule se dispersait, beaucoup semblaient stupéfaits mais aussi amusés, pensant qu'il s'agissait simplement du genre de débat ésotérique qui a souvent lieu lors des soirées de la Silicon Valley.

Huit ans plus tard, le débat entre les deux hommes semble pourtant prémonitoire. La question de savoir si l’intelligence artificielle améliorera le monde ou le détruira – ou du moins causera de graves dommages – a suscité un débat parmi les entrepreneurs de la Silicon Valley, les utilisateurs de chatbots, les universitaires, les législateurs et les régulateurs sur la question de savoir si nous devrions la contrôler ou la laisser partir. débat sur le développement.

Ce débat a opposé un groupe des personnes les plus riches du monde : Musk, Page, Mark Zuckerberg de Meta, l'investisseur technologique Peter Thiel, Satya Satya Nadella de Microsoft et Sam Altman d'OpenAI. Ils se battent tous pour une part d’une entreprise qui pourrait un jour valoir des milliards de dollars, et pour le pouvoir de la façonner.

Au cœur de cette compétition se trouve un paradoxe déroutant. Ceux qui se disent les plus préoccupés par l’intelligence artificielle sont les plus déterminés à la créer et à profiter de la richesse qu’elle apportera. Ils justifient leurs ambitions par la ferme conviction qu’eux seuls peuvent empêcher l’intelligence artificielle de constituer un danger pour la planète.

Peu de temps après cette fête d’été, Musk et Page ont perdu contact. Quelques semaines plus tard, Musk a dîné avec Altman, qui dirigeait à l'époque un incubateur technologique, et plusieurs chercheurs dans une salle privée de l'hôtel Rosewood à Menlo Park, en Californie. C'est un endroit assez populaire pour discuter de collaborations car il se trouve à proximité des bureaux de VC sur Sand Hill Road.

Ce dîner a conduit à la création d’une startup appelée OpenAI plus tard cette année-là. Soutenu par des centaines de millions de dollars de Musk et d’autres investisseurs, le laboratoire promet de protéger le monde de la vision de Page.

Grâce à son chatbot ChatGPT, OpenAI a fondamentalement changé l'industrie technologique et démontré les risques et le potentiel de l'intelligence artificielle. OpenAI était évalué à plus de 80 milliards de dollars, selon deux sources proches du dernier cycle de financement de l'entreprise, même si le partenariat entre Musk et Altman n'a pas duré. Depuis, les deux hommes ne se parlent plus.

"Il y a de la division, de la méfiance, de l'égoïsme", a déclaré Altman. "Plus les gens vont dans la même direction, plus les divisions sont aiguës. On le voit également dans les sectes et les groupes religieux. Ce sont ceux qui sont les plus proches les uns des autres qui mènent les combats les plus intenses."

Le mois dernier, les luttes intestines ont atteint le conseil d'administration d'OpenAI. Des membres rebelles du conseil d’administration ont tenté de chasser Ultraman parce qu’ils pensaient qu’ils ne pouvaient plus lui faire confiance pour créer une IA qui pourrait profiter à l’humanité. Pendant cinq jours de chaos, OpenAI semblait sur le point de s'effondrer, jusqu'à ce que le conseil d'administration recule sous la pression des principaux investisseurs et employés qui menaçaient de suivre Altman.

La bataille dramatique au sein d’OpenAI a donné au monde un premier aperçu de la bataille qui fait rage entre ceux qui détermineront l’avenir de l’IA.

Mais quelques années avant la quasi-débâcle d’OpenAI, il existait dans la Silicon Valley une concurrence peu connue mais féroce pour les technologies qui sont aujourd’hui en train de remodeler rapidement le monde. Elle réécrit tout, depuis la façon dont nous éduquons nos enfants jusqu’à la manière de mener une guerre. Le New York Times a interviewé plus de 80 dirigeants, scientifiques et entrepreneurs, dont deux présents à la fête d'anniversaire d'Elon Musk en 2015, pour raconter cette histoire d'ambition, de peur et d'argent.

La naissance de DeepMind

Cinq ans avant cette fête de Napa Valley et deux ans avant le succès des vidéos de chats sur YouTube, le neuroscientifique Demis Hassabis, âgé de 34 ans, est entré dans l'établissement de Peter Thiel. Lors d'un cocktail dans une maison de ville de San Francisco, il a réalisé qu'il avait décroché l'or. Dans le salon de Tierna, qui donne sur le Palais des Arts local et l'étang des cygnes, se trouve un échiquier. Le Dr Hassabis était autrefois le deuxième joueur d'échecs au monde dans la catégorie des moins de 14 ans.

"J'ai préparé cette réunion pendant un an", a déclaré le Dr Hassabis. "Je pensais que ce serait mon unique point d'entrée : je savais qu'il adorait jouer aux échecs."

En 2010, le Dr Hassabis et deux de ses collègues, qui vivaient au Royaume-Uni, cherchaient des fonds pour commencer à construire une « intelligence générale artificielle », ou AGI, une machine capable de faire tout ce qu'un cerveau peut faire. À l’époque, peu de gens s’intéressaient à l’intelligence artificielle. Après un demi-siècle de recherche, le domaine de l’intelligence artificielle n’a pas réussi à produire quoi que ce soit qui se rapproche du cerveau humain.

Cependant, certains scientifiques et penseurs ont développé des opinions obstinées sur les impacts négatifs de l’IA. Beaucoup, comme ces trois jeunes hommes britanniques, ont des liens de parenté avec le philosophe Internet et chercheur autodidacte en IA Eliezer Yudkowsky. M. Yudokowsky était un leader communautaire qui se qualifiait de « rationaliste », et qui devint plus tard connu comme un « altruiste efficace ».

Ils croient que l’IA peut guérir le cancer ou résoudre le changement climatique, mais ils craignent que les robots IA puissent faire des choses qui vont à l’encontre des intentions de leurs créateurs. Si les machines deviennent plus intelligentes que les humains, affirment les rationalistes, elles pourraient se retourner contre leurs créateurs.

Thiel a amassé une fortune grâce à ses premiers investissements dans Facebook et à son premier partenariat avec Musk chez PayPal. Il est devenu fasciné par la singularité, un thème de science-fiction qui décrit le moment où la technologie intelligente ne peut plus être contrôlée par les humains.

Grâce au financement de Thiel, Yudokovsky a agrandi son laboratoire d'IA et a créé une conférence annuelle sur la singularité. Il y a des années, l'un des deux collègues du Dr Hassabis a rencontré Yudokowsky. Il leur a donné l'occasion de prendre la parole lors de réunions et s'est assuré qu'ils étaient invités aux soirées de Till.

M. Yudkowsky a présenté le Dr Hassabis à Thiel. Hassabis pensait qu'il y aurait beaucoup de gens à la fête qui tenteraient de soutirer de l'argent à Thiel. Sa stratégie consistait à organiser une autre réunion. Il dit à Teal que les relations entre l'évêque et le chevalier étaient tendues. Les deux pièces ont la même valeur, mais les meilleurs joueurs comprennent que leurs avantages sont très différents.

Cela a fonctionné. Charmée, Teal les invita à revenir le lendemain pour se retrouver en cuisine. L'hôte venait de terminer son entraînement matinal et son corps brillait de sueur. Un steward lui a tendu un Coca Light. Les trois ont présenté leur argumentaire, et bientôt Thiel et sa société de capital-risque ont accepté d'investir 1,4 million de livres sterling (environ 2,25 millions de dollars) dans leur startup. Il fut leur premier investisseur important.

Ils ont nommé l'entreprise DeepMind, un clin d'œil à « l'apprentissage profond » (un moyen permettant aux systèmes d'IA d'acquérir des compétences en analysant de grandes quantités de données), aux neurosciences et au superordinateur à réflexion profonde présenté dans le roman de science-fiction « Le guide du voyageur ». Galaxie." À l’automne 2010, ils construisaient la machine de leurs rêves. Ils croient fermement qu’ils sont dans une position unique pour protéger le monde parce qu’ils comprennent les risques.

"Je ne pense pas que ce soit une position contradictoire", a déclaré Mustafa Suleyman, l'un des trois fondateurs de DeepMind. "Ces technologies apporteront d'énormes bénéfices. L'objectif n'est pas d'éliminer ou de suspendre leur développement. L'objectif est de réduire leurs impacts négatifs."

Après avoir gagné le soutien de Thiel, le Dr Hassabis est progressivement entré dans le champ de vision de Musk. Ils se sont rencontrés environ deux ans plus tard lors d'une conférence organisée par le fonds d'investissement de Thiel, qui a également investi dans la société SpaceX de Musk. Le Dr Hassabis a organisé une visite du siège de SpaceX. Ensuite, les deux hommes ont déjeuné et discuté à la cafétéria avec des obus de roquettes suspendus au plafond.

M. Musk a expliqué que son plan était de coloniser Mars pour échapper à la surpopulation et aux autres dangers sur Terre. Le Dr Hassabis a répondu que ce plan fonctionnerait – à condition que des machines super intelligentes ne suivent pas les humains sur Mars et ne détruisent pas les humains sur Mars.

Musk était sans voix. Il n'avait jamais envisagé ce danger particulier. Musk a rapidement investi dans DeepMind avec M. Thiel pour se rapprocher de la création de la technologie.

Bénéficiant d'un financement important, DeepMind emploie des chercheurs spécialisés dans les réseaux de neurones, des algorithmes complexes calqués sur le cerveau humain. Un réseau neuronal est essentiellement un système mathématique géant qui passe des jours, des semaines, voire des mois, à identifier des modèles dans de grandes quantités de données. Développés à l'origine dans les années 1950, ces systèmes peuvent apprendre à gérer des tâches par eux-mêmes. Par exemple, après avoir analysé des centaines de noms et d’adresses manuscrits sur des enveloppes, ils peuvent lire du texte manuscrit.

DeepMind pousse ce concept plus loin. Il a construit un système capable d'apprendre à jouer à des jeux Atari classiques comme Space Invaders, Pong et Breakout pour démontrer son potentiel.

Cela a attiré l'attention de Google, un autre géant de la Silicon Valley, notamment de Larry Page. Il a vu une démonstration de la machine de DeepMind jouant à un jeu Atari. Il voulait en faire partie.

Ventes aux enchères de talents

À l'automne 2012, Geoffrey Hinton, professeur de 64 ans à l'Université de Toronto, et deux étudiants diplômés ont publié un document de recherche démontrant au monde les capacités de l'intelligence artificielle. Ils ont formé un réseau neuronal pour reconnaître des objets courants tels que des fleurs, des chiens et des voitures.

Les scientifiques ont été surpris par la précision de la technologie développée par le Dr Hinton et ses étudiants. Yu Kai, un chercheur en intelligence artificielle qui a rencontré le Dr Hinton lors d'une conférence de recherche et qui a récemment commencé à travailler pour le géant chinois de l'Internet Baidu, est particulièrement préoccupé par cette question. Baidu a proposé au Dr Hinton et à ses étudiants 12 millions de dollars pour rejoindre l'entreprise basée à Pékin, selon trois personnes proches du dossier.

Le Dr Hinton a refusé Baidu, mais l'argent a attiré son attention.

L'expatrié britannique formé à Cambridge, qui a passé la plupart de son temps dans le monde universitaire, à l'exception de passages occasionnels chez Microsoft et Google, n'apprécie pas particulièrement l'argent. Mais ses enfants sont touchés par la neurodiversité, et cet argent lui assurerait une sécurité financière.

"Nous ne savons pas quelle est notre valeur", a déclaré le Dr Hinton. Il a consulté des avocats et des experts en acquisitions, puis a élaboré un plan : "Nous allons organiser une vente aux enchères et nous allons nous vendre." La vente aux enchères aura lieu lors de la conférence annuelle sur l'intelligence artificielle à l'hôtel Harrah's et Conduite du Casino Lake Tahoe.

Les grandes entreprises technologiques commencent à en prendre conscience. Des entreprises telles que Google, Microsoft et Baidu ont commencé à croire que les machines que les réseaux neuronaux apporteront auront non seulement la capacité de voir, mais aussi d'écouter, d'écrire, de parler et, éventuellement, même de penser.

Page avait vu une technologie similaire dans le laboratoire d'intelligence artificielle de son entreprise, Google Brain, et pensait que les recherches du Dr Hinton pourraient améliorer le travail de ses scientifiques. Il a essentiellement donné à Alan Eustace, vice-président senior et ingénieur de Google, un chèque non numéroté pour embaucher tous les experts en IA dont il avait besoin.

M. Eustace et Jeff Dean, qui dirige Brain Labs, se sont rendus à Lake Tahoe et ont organisé un dîner avec le Dr Hinton et ses étudiants dans un steakhouse d'hôtel la veille de la vente aux enchères. Le Dr Dean a rappelé qu'il y avait une forte odeur de vieille fumée de cigarette. Ils ont persuadé le Dr Hinton et ses étudiants de travailler chez Google.

Le lendemain, le Dr Hinton a mené la vente aux enchères dans sa chambre d'hôtel. Il s'assoit rarement en raison d'une vieille blessure. Il a retourné une poubelle sur une table, a placé son ordinateur portable dessus et a regardé les offres affluer au cours des deux jours suivants.

Google a fait une offre. Microsoft aussi. Alors que les prix augmentaient, DeepMind s’est rapidement retiré. Les géants de l'industrie ont poussé l'offre jusqu'à 20 millions de dollars, puis 25 millions de dollars, selon les détails de l'enchère. Microsoft s'est retiré lorsque le prix a dépassé 30 millions de dollars, mais a réintégré l'enchère à 37 millions de dollars.

"Nous avions l'impression que c'était comme un film", a déclaré le Dr Hinton.

Ensuite, Microsoft s'est retiré une deuxième fois de l'appel d'offres. Seuls Baidu et Google sont restés, et ils ont poussé leurs prix d'appel d'offres à 42 et 43 millions de dollars. Finalement, à 44 millions de dollars, le Dr Hinton et ses étudiants ont mis fin aux enchères. Même si les enchères continuent d'augmenter, ils souhaitent travailler pour Google. Et la somme d’argent est assez stupéfiante.

C’est un signe clair que les entreprises aux poches profondes sont déterminées à racheter les chercheurs en IA les plus talentueux – ce que le Dr Hassabis de DeepMind réalise également. Il a dit à ses employés que DeepMind resterait une entreprise indépendante. Il pense que c'est le meilleur moyen de garantir que sa technologie ne se transforme pas en quelque chose de dangereux.

Mais lorsque les grandes entreprises technologiques se sont lancées dans la compétition pour attirer les talents, il a décidé qu’il n’avait pas le choix : il était temps de vendre.

Fin 2012, Google et Facebook cherchaient à racheter le laboratoire londonien, selon trois personnes proches du dossier. Le Dr Hassabis et ses cofondateurs ont insisté sur deux conditions : la technologie de DeepMind ne peut pas être utilisée à des fins militaires et sa technologie d’IA doit être supervisée par un conseil indépendant de technologues et d’éthiciens.

L'offre de Google s'élevait à 650 millions de dollars. Mark Zuckerberg de Facebook a proposé un prix plus élevé au fondateur de DeepMind, mais n'a pas accepté les conditions. DeepMind a finalement été vendu à Google.

Zuckerberg a décidé de construire son propre laboratoire d'intelligence artificielle. Il a embauché Yann LeCun, un informaticien français qui avait également mené des recherches révolutionnaires sur l'intelligence artificielle, pour diriger le laboratoire. Un an après la vente aux enchères du Dr Hinton, Zuckerberg et le Dr LeChun se sont envolés pour Lake Tahoe pour assister à la même conférence sur l’IA. Dans une suite du Harrah's Casino, M. Zuckerberg se promenait en chaussettes, interviewant personnellement les meilleurs chercheurs à qui on a rapidement proposé des millions de dollars en salaire et en actions.

L’intelligence artificielle était autrefois ridiculisée. Aujourd'hui, les personnes les plus riches de la Silicon Valley dépensent des milliards pour éviter d'être laissées pour compte dans la course.

Le comité d’éthique disparu

Lorsque Musk a investi dans DeepMind, il a enfreint une règle non officielle selon laquelle il n’investirait dans aucune entreprise qu’il ne dirigeait pas. L'impact négatif de cette décision est devenu évident environ un mois seulement après sa dispute d'anniversaire, lorsqu'il s'est retrouvé face à son ancien ami et collègue milliardaire.

Cette occasion était la première réunion du comité d'éthique de DeepMind, tenue le 14 août 2015. Sur l'insistance des fondateurs, le comité a été formé pour s'assurer que leur technologie ne causerait aucun préjudice si elle était vendue. Les membres du comité se sont réunis dans une salle de conférence à l'extérieur du bureau SpaceX de Musk, avec des fenêtres donnant sur son usine de fusées, selon trois personnes proches de la réunion.

Cependant, c’est aussi là que s’arrête le contrôle de Musk. Lorsque Google a acquis DeepMind, il a racheté l’intégralité de l’entreprise. Musk a été expulsé. Même s’il gagnait de l’argent financièrement, il n’était pas content.

Trois dirigeants de Google contrôlent désormais DeepMind : Page ; le cofondateur de Google et investisseur de Tesla, Sergey Brin ; et le président de Google, Eric Schmidt (Eric Schmidt). Parmi les autres participants figuraient Reid Hoffman, un autre fondateur de PayPal, et Toby Ord, un philosophe australien qui étudie le risque existentiel.

Les fondateurs de DeepMind déclarent qu'ils avancent dans leurs travaux, mais ils sont conscients que la technologie comporte de sérieux risques.

Suleiman, co-fondateur de DeepMind, a prononcé un discours intitulé « The Rising People Are Coming ». Il a déclaré au conseil d’administration que l’intelligence artificielle pourrait conduire à une explosion de désinformation. Il craint que dans les années à venir, alors que la technologie supprimera d’innombrables emplois, le public reprochera à Google de lui avoir enlevé ses moyens de subsistance. Il estime que Google doit partager sa richesse avec les millions de chômeurs et fournir un « revenu de base universel ».

Musk est d’accord. Mais force est de constater que ses invités de Google n’ont aucune intention de redistribuer les richesses. M. Schmidt a déclaré qu'il pensait que ces inquiétudes étaient complètement exagérées. M. Page acquiesça de sa voix basse habituelle. Il a fait valoir que l’IA créerait plus d’emplois qu’elle n’en supprimerait.

Huit mois plus tard, DeepMind a réalisé une percée qui a choqué la communauté de l'IA et le monde. Une machine DeepMind appelée AlphaGo a vaincu l'un des meilleurs joueurs de Go au monde. Le match a été diffusé en direct sur Internet et a été regardé par 200 millions de personnes dans le monde. La plupart des chercheurs pensaient qu’il faudrait encore une décennie pour que l’IA dispose des capacités innovantes nécessaires.

Les rationalistes, les altruistes efficaces et d’autres inquiets des risques de l’intelligence artificielle affirment que le triomphe des ordinateurs confirme leurs craintes.

"C'est un autre signe que l'intelligence artificielle progresse plus rapidement que ne l'espéraient de nombreux experts", a écrit Victoria Krakovna, qui rejoindra DeepMind en tant que chercheuse sur la "sécurité de l'IA", dans un article de blog.

Les fondateurs de DeepMind étaient de plus en plus préoccupés par la manière dont Google utiliserait leur invention. En 2017, ils ont tenté de se séparer de l’entreprise. En réponse, Google a augmenté les salaires et les attributions d'actions des fondateurs de DeepMind et de leurs employés. Ils ont choisi de rester.

Le comité d'éthique ne s'est jamais réuni une seconde fois.

séparé

Convaincu que l'optimisme de Page concernant l'intelligence artificielle était complètement déplacé et en colère contre la perte de DeepMind, Musk a construit son propre laboratoire.

OpenAI a été fondée fin 2015, quelques mois seulement après sa rencontre avec Sam Altman au Rosewood Hotel de la Silicon Valley. Musk a investi de l'argent dans le laboratoire et ses anciens partenaires PayPal, MM. Hoffman et Thiel, se sont joints à l'effort. Le trio et d’autres ont promis 1 milliard de dollars pour le projet, qu’Altman, alors âgé de 30 ans, aiderait à gérer. Pour lancer le projet, ils ont embauché Ilya Sutskever de Google. (Le Dr Sutskwei était l’un des étudiants diplômés que Google a « achetés » lors de la vente aux enchères du Dr Hinton.)

Au départ, Musk souhaitait gérer OpenAI comme une organisation à but non lucratif, loin des intérêts financiers dirigés par des entreprises comme Google. Mais tandis que Google choque le monde de la technologie avec ses performances Go, Musk change d'avis sur la façon dont OpenAI devrait fonctionner. Il voulait désespérément qu'OpenAI invente quelque chose qui captiverait l'imagination du monde et le rapprocherait de Google, mais en tant qu'organisation à but non lucratif, il n'était pas en mesure de faire le travail.

Fin 2017, il a élaboré un plan pour tenter de reprendre le contrôle du laboratoire à Altman et aux autres fondateurs et d'en faire une opération commerciale, en s'associant à Tesla et en s'appuyant sur les supercars que le constructeur automobile développait. quatre personnes proches du dossier.

Lorsque Altman et d’autres se sont opposés, Musk s’est retiré et a déclaré qu’il se concentrerait sur son propre travail en matière d’intelligence artificielle chez Tesla. Il a annoncé son départ aux employés d'OpenAI en février 2018 au dernier étage des bureaux de la startup dans une ancienne usine de camions reconvertie, ont déclaré trois personnes présentes à la réunion. Lorsqu'il a déclaré qu'OpenAI devait aller plus vite, un chercheur présent à la réunion a rétorqué que le comportement de M. Musk était imprudent.

Musk a qualifié le chercheur de « stupide » et est parti en trombe, emportant avec lui son immense fortune.

OpenAI avait soudainement besoin de nouveaux financements. Altman s'est envolé pour Sun Valley pour une conférence et a rencontré le PDG de Microsoft, Satya Nadella. L'union des deux semblait naturelle. Altman connaissait Kevin Scott, directeur de la technologie de Microsoft. Microsoft a acquis LinkedIn auprès de Hoffman, membre du conseil d'administration d'OpenAI. Nadella a chargé Scott de le faire. L’accord a été finalisé en 2019.

Altman et OpenAI, qui ont formé une société à but lucratif sous l'égide initiale à but non lucratif, disposent d'un nouveau capital d'un milliard de dollars et Microsoft a trouvé une nouvelle façon d'intégrer l'intelligence artificielle dans son service de cloud computing massif.

Mais tout le monde chez OpenAI n’est pas content.

Le chercheur Dario Amodei est associé à la communauté Effective Altruism et y était déjà lorsque OpenAI est né au Rosewood Hotel. Le Dr Amoudi, qui ne cesse de faire tournoyer ses boucles tout en parlant, dirige un laboratoire qui construit un réseau neuronal appelé grand modèle de langage, capable d'apprendre à partir de grandes quantités de textes numériques. Il génère lui-même du texte en analysant d'innombrables articles Wikipédia, livres numériques et forums de discussion. Il a aussi la fâcheuse habitude d’inventer des choses. Il s’appelle GPT-3 et a été publié à l’été 2020.

Les chercheurs d’OpenAI, de Google et d’autres sociétés pensent que cette technologie en évolution rapide pourrait être la voie vers l’AGI.

Cependant, le Dr Amodei n'est pas satisfait de l'accord avec Microsoft car il estime qu'il amène OpenAI dans une direction très commerciale. Lui et d'autres chercheurs ont tenté de faire pression sur le conseil d'administration pour évincer M. Altman, selon cinq personnes connaissant le sujet. Mais ils ont échoué et sont partis. Comme les fondateurs de DeepMind avant eux, ils craignaient que les nouveaux dirigeants de leur entreprise ne fassent passer les intérêts commerciaux avant la sécurité.

En 2021, une quinzaine d’ingénieurs et de scientifiques ont créé un nouveau laboratoire baptisé Anthropic. Leur plan est de construire l’intelligence artificielle de la manière dont les altruistes efficaces pensent qu’elle devrait être construite – avec des contrôles très stricts.

"Les cofondateurs d'Anthropic n'essaient pas de retirer Sam Altman d'OpenAI", a déclaré la porte-parole d'Anthropic, Sally Aldous. "Les co-fondateurs eux-mêmes sont arrivés à la conclusion qu'ils souhaitaient quitter OpenAI pour créer leur propre entreprise, ils l'ont clairement fait savoir à la direction d'OpenAI et, en quelques semaines, ont négocié leur sortie à des conditions mutuellement acceptables."

Anthropic a reçu un investissement de 4 milliards de dollars d'Amazon, et deux ans plus tard, 2 milliards de dollars supplémentaires de Google.

révéler

Lorsqu'OpenAI a obtenu un investissement supplémentaire de 2 milliards de dollars de la part de Microsoft, Altman et un autre dirigeant, Greg Brockman, se sont rendus au manoir de Bill Gates, sur les rives du lac Washington, à l'extérieur de Seattle. Même si le fondateur de Microsoft n'est plus impliqué dans les opérations quotidiennes de l'entreprise, il reste en contact régulier avec les dirigeants de l'entreprise.

Au cours du dîner, Gates leur a dit qu'il n'était pas sûr que les grands modèles linguistiques fonctionneraient. Il a déclaré qu'il resterait sceptique à moins que la technologie ne soit capable de gérer des tâches qui nécessitent une réflexion critique, comme la réussite d'un examen de biologie Advanced Placement.

Cinq mois plus tard, le 24 août 2022, Altman et Brockman sont revenus et ont amené avec eux une chercheuse OpenAI nommée Chelsea Voss. Mme Voss a été lauréate des Olympiades internationales de biologie au lycée. M. Nadella et d'autres dirigeants de Microsoft étaient également présents.

Sur un grand écran numérique à l'extérieur du salon de Gates, l'équipe OpenAI a fait la démonstration d'une technologie appelée GPT-4.

M. Brockman a fait passer le système à des questions à choix multiples lors d'un examen de biologie avancé, et Mme Voss a noté les réponses. La première question concerne les molécules polaires, qui sont des groupes d’atomes ayant une charge positive à une extrémité et une charge négative à l’autre. Le système a répondu correctement à la question et a expliqué ses choix. "Nous l'avons uniquement formé pour fournir des réponses", a déclaré M. Brockman. "La nature conversationnelle est apparue comme par magie." En d'autres termes, il faisait quelque chose pour lequel il n'était pas vraiment conçu.

Sur 60 questions, GPT-4 n’a obtenu qu’une seule mauvaise réponse.

M. Gates se redressa, les yeux écarquillés. Il a eu une réaction similaire en 1980 lorsque des chercheurs lui ont montré l'interface utilisateur graphique qui est devenue la base des ordinateurs personnels modernes. Il pense que GPT est tellement révolutionnaire.

En octobre, Microsoft avait ajouté cette technologie à ses services en ligne, notamment à son moteur de recherche Bing. Deux mois plus tard, OpenAI a lancé son chatbot ChatGPT, désormais utilisé par 100 millions de personnes chaque semaine.

OpenAI a vaincu l’altruiste efficace d’Anthropic. Les optimistes de Page chez Google se sont précipités pour lancer leur propre chatbot, Bard, mais il a été largement considéré comme une perte dans la course face à OpenAI. Trois mois après la sortie de ChatGPT, l'action de Google a chuté de 11 %. M. Musk était introuvable.

Mais tout cela n’est qu’un début.

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo