Le « cerveau » derrière OpenAI Gongdou est ChatGPT

Juste au moment où je pensais (naïvement, encore et encore) que la tourmente d’OpenAI était sur le point de s’installer, elle tournait toujours d’une manière que même les scénaristes de Succession n’auraient pas pu écrire.

Après que plus de 90 % des employés d'OpenAI se soient complètement séparés et aient exigé conjointement la dissolution du conseil d'administration et le retour de Sam Altman, le conseil d'administration n'a pas renoncé à la résistance. Ils ont même contacté leur rival Anthropic et tenté de fusionner les deux sociétés.

Le conseil d'administration espère persuader le co-fondateur et PDG d'Anthropic, Dario Amodei, de prendre la relève en tant que PDG afin de réaliser l'exploit historique de remplacer quatre PDG en quatre jours.

Dario Amodei était également un ancien cadre d'OpenAI. Anthropic, qu'il a fondé après avoir quitté son emploi, se concentre sur la promotion d'une IA sûre, et son chatbot Claude est un concurrent de ChatGPT.

Les analystes estiment que si OpenAI et Anthropic fusionnent réellement, ce sera le début d'un autre chaos, car derrière les deux startups vedettes se cachent les positions de plusieurs géants de la technologie dans le domaine de l'IA.

Microsoft et OpenAI s'associent et Anthropic a signé des accords de cloud computing de plusieurs milliards de dollars avec Amazon et Google. Les deux géants ont également investi dans Anthropic.

Actuellement, OpenAI est sur le point de se désintégrer. Les concurrents commencent à recruter un grand nombre de talents sortants. Dans le même temps, les principaux clients d'OpenAI envisagent également de se tourner vers des sociétés telles qu'Anthropic, Microsoft ou Google.

Alors que nous continuons à suivre les développements, nous revenons également sur le point de départ de ce bouleversement : les conflits internes d’OpenAI. Dans son dernier rapport, The Atlantic Monthly a mis au jour un conflit d’idées interne enfoui depuis longtemps.

Le chaos d’OpenAI a commencé le jour de la sortie de ChatGPT

1. À l'origine, OpenAI n'avait pas prévu de publier GPT-3.5. À l'automne 2022, OpenAI se préparait initialement à publier GPT-4. Cependant, des rumeurs circulaient selon lesquelles Anthropic allait également sortir un chatbot, c'est pourquoi l'équipe de direction d'OpenAI a annoncé en novembre que le produit serait publié quelques semaines plus tard, en choisissant GPT-3.5, qui était relativement complet à l'époque.

2. Personne ne s'attendait au succès de ChatGPT. La sortie de ChatGPT a été très discrète, si discrète que de nombreux employés de l'entreprise ne savaient pas qu'OpenAI l'avait publié. À cette époque, les employés qui le connaissaient pariaient encore sur le nombre d'utilisateurs qu'il pourrait attirer, et ils ne devinaient que 10 000 utilisateurs au maximum. En conséquence, le nombre d’utilisateurs a dépassé le million cinq jours après le lancement.

3. ChatGPT non seulement fait tomber le serveur, mais rend également les outils de détection inefficaces. L'équipe a créé un outil de surveillance du trafic capable de suivre le comportement des utilisateurs, de comprendre comment les utilisateurs utilisent cet outil et de coordonner les crises et les abus potentiels. La popularité de ChatGPT a provoqué des plantages répétés de l’outil.

4. L'équipe de sécurité d'OpenAI a conseillé à l'équipe produit de ralentir les mises à jour du produit. Après la sortie de ChatGPT, le nombre d'utilisateurs a augmenté rapidement et l'équipe de sécurité n'a pas réussi à faire face aux risques de sécurité et aux utilisations malveillantes. Par la suite, l’équipe produit a ignoré les rappels de l’équipe de sécurité et a persisté à poursuivre la victoire, en lançant tour à tour la version payante de ChatGPT et l’interface API ouverte.

5. Crise de fraude. Avec l'application généralisée de ChatGPT et GPT-4, certaines personnes ont également découvert des vulnérabilités. Certains utilisateurs ont commencé à créer de nouveaux comptes à grande échelle pour bénéficier de la réduction de 20 $ apportée par chaque nouveau compte. Mettre fin à ces escroqueries est devenu la priorité absolue d'OpenAI à l'époque, et une petite équipe de membres de l'équipe de sécurité initialement affectés à différents domaines a été chargée de se concentrer sur la résolution du problème.

6. Sous pression, certains employés développent même des problèmes de santé mentale. La communication au sein de l’entreprise était mauvaise et les employés n’ont découvert qu’ils étaient licenciés qu’en constatant la disparition de leurs collègues sur Slack.

7. "Ressentez l'AGI". La technologie progresse rapidement. Le scientifique en chef Ilya Sutskever est de plus en plus convaincu que l'AGI finira par se réaliser, et son comportement ressemble de plus en plus à une sorte de « leader spirituel ». Son mantra est « Feel AGI », ce qui signifie que tout le monde est très proche d’atteindre l’objectif d’AGI. . Sutskever a publié un jour sur les réseaux sociaux : "Si vous ressentez l'AGI, vous devriez postuler pour OpenAI." Lors de la fête de Noël d'OpenAI 2022, Sutskever a même amené les employés à crier « Feel AGI ! Feel AGI ! » Les employés ont également créé des émojis « Feel AGI » sur Slack.

8. L’autre aspect de cette croyance est la crainte qu’OpenAI n’accorde pas suffisamment d’attention à la sécurité. En juillet de cette année, Sutskever et Jan Leike ont dirigé la création de l'équipe « Superalignment » pour développer des technologies de sécurité IA plus en amont et monopoliser 20 % des puces informatiques existantes de l'entreprise afin de préparer la prochaine AGI au cours de cette décennie. « L'alignement » signifie laisser l'IA faire uniquement ce que les gens veulent qu'elle fasse.

9. Lors d'un événement interne cette année, Sutskever a même personnalisé une statue en bois pour représenter « l'IA non alignée », puis l'a incendiée pour représenter la détermination d'OpenAI à aligner l'IA.

10. En octobre de cette année, les conflits se sont intensifiés. Des sources proches du dossier ont déclaré qu'Altman cherchait à réduire l'influence de Sutskever dans l'entreprise, déclenchant ainsi un conflit avec le conseil d'administration.

11. Lors de la conférence des développeurs du 6 novembre, Altman a annoncé le lancement de fonctions GPT personnalisables. Sutskever était complètement en colère et s'est adressé au conseil d'administration avec ses inquiétudes.

12. Le 17 novembre, Altman a été licencié par le conseil d'administration lors d'une réunion en ligne.

13. Face aux nombreuses rumeurs selon lesquelles Altman reviendrait, Musk a déclaré sur X qu'il serait très inquiet si Altman revenait réellement. Parce que "Ilya a un très bon code moral et ne recherchera pas le pouvoir. S'il ne se sentait pas obligé d'agir, Ilya n'aurait pas un comportement aussi extrême".

14. Le 20 novembre, Sutskever a déclaré aux employés qu'Altman ne reviendrait pas chez OpenAI en tant que PDG. Emmett Shear, co-fondateur de la plateforme de streaming en direct d'Amazon Twitch, occupera le poste de PDG par intérim d'OpenAI.

Derrière le chaos : le choc philosophique de Sutskever et Altman

1. Le scientifique en chef Ilya Sutskever, qui dirige le développement de la technologie de pointe d’OpenAI, a étudié sous la direction du « parrain de l’IA » Geoffrey Hinton et préconise une gestion prudente des risques de sécurité de l’IA et de l’AGI.

2. La performance de Sutskever a été exceptionnelle. Au début de son arrivée dans l'équipe Hinton, Hinton lui a confié une tâche très complexe. Sutskever était fatigué des calculs requis dans le processus d'écriture et a demandé à Hinton d'écrire lui-même un langage de programmation pour accomplir la tâche la plus simple. Hinton s'est un peu mis en colère et l'a prévenu que cela pourrait prendre un mois entier et ne mener à rien. "En fait, je l'ai terminé ce matin", a avoué Sutskever.

3. Statut élevé dans l’industrie. Sam Altman a qualifié Sutskever de l'un des chercheurs les plus respectés au monde et a estimé que son arrivée attirerait davantage de talents en IA. Musk croit franchement qu'il est un personnage clé du succès d'OpenAI.

4. Afin d'attirer Sutskever de Google vers OpenAI, Musk s'est brouillé avec le co-fondateur de Google, Larry Page.

5. Le point de vue de Sutskever sur l’IA : la technologie est comme une force de la nature. Il est crucial de contrôler la naissance initiale de l’AGI, sinon elle suivra une loi similaire à celle de la « survie du plus fort » et donnera la priorité à sa propre existence. Tout comme les humains et les animaux, les humains ne détestent pas les animaux, mais lorsque les humains voudront se développer, nous ferons passer la nécessité de construire des autoroutes avant la survie des animaux.

6. Lorsque ce document historique « L'attention est tout ce dont vous avez besoin » est sorti, Sutskever était l'une des rares personnes à pouvoir en comprendre l'importance : « C'est ce que nous attendons. »

7. Sutskever préconise de « graver » des valeurs spécifiques dans la super IA, afin que l'IA ait une « empreinte » similaire à celle de la « nature » comme les animaux : « À terme, l'IA deviendra très, très, très puissante. comprenez-le. Eux. Ils seront beaucoup plus intelligents que nous. À ce moment-là, une forte empreinte sera cruciale, afin qu'ils ressentent pour nous la même chose que nous ressentons pour nos propres enfants.

8. La lutte pour l’AGI est vaine. Sutskever estime que si plusieurs équipes rivalisent pour créer AGI en premier, elles auront moins d'espace pour travailler pour assurer la sécurité d'AGI. En revanche, Altman se qualifie plutôt de « centriste » qui souhaite garantir à la fois vitesse et sécurité.

9. Dans l'esprit de Sutskever, le premier lot d'AGI ressemblait à de très grands centres de données dotés de réseaux neuronaux propriétaires intégrés, extrêmement énergivores et consommant à peu près la même quantité d'électricité que des dizaines de millions de foyers. Ces AGI auront certainement un impact profond sur la société, mais nous ne savons pas vraiment qui en bénéficiera.

10. D'anciens employés d'OpenAI affirment que Sutskever compte de nombreux adeptes en interne, le qualifiant de leader très respecté et actif, essentiel au développement de la technologie de pointe d'OpenAI. Greg Brockman, ancien président d'OpenAI, sait transformer les résultats des recherches de Sutskever en produits d'IA utilisables.

Chronologie de l'éviction de Sam Altman :

Jeudi soir 16 novembre, heure locale

Altman a reçu un message de Sutskever demandant une conversation vendredi à midi. Sutskever dit à Sam qu'il a été viré et que la nouvelle sera bientôt publiée.
Vendredi 17 novembre, heure locale

OpenAI a annoncé que le PDG Sam Altman quitterait l'entreprise et que la directrice de la technologie Mira Murati a été nommée PDG par intérim, avec effet immédiat.

Le conseil d'administration d'OpenAI a déclaré dans un article de blog que « M. Altman n'a pas été franc dans ses communications avec le conseil d'administration, ce qui a entravé la capacité du conseil d'administration à s'acquitter de ses responsabilités. Le conseil d'administration n'a plus confiance en lui pour continuer à diriger OpenAI.

Altman a posté sur la plateforme X que j'ai adoré mon séjour chez OpenAI. Cela a été transformateur pour moi personnellement et j'espère que cela changera également le monde. Par-dessus tout, j’aime travailler avec autant de personnes talentueuses.

Le président et président du conseil d'administration d'OpenAI, Greg Brockman, a annoncé sa démission et s'est dit choqué et attristé par la décision du conseil d'administration.

Trois chercheurs seniors d'OpenAI ont démissionné vendredi soir, heure locale.
Samedi 18 novembre heure locale

Sam Altman a déclaré aux investisseurs qu'il envisageait de lancer une nouvelle entreprise d'IA. Greg Brockman devrait rejoindre l'entreprise, qui est encore en cours de développement et la nature exacte de l'entreprise n'est pas claire pour le moment.

Le conseil d'administration d'OpenAI discute d'un retour au rôle de PDG avec Altman. Il est "ambivalent" sur le retour et souhaite des changements majeurs dans la gouvernance.
Dimanche 19 novembre heure locale

Sam Altman et Greg Brockman sont arrivés au siège d'OpenAI à San Francisco pour rencontrer les dirigeants.

Mira Murati, PDG par intérim d'OpenAI, prévoit de réembaucher Sam Altman et Greg Brockman, tandis que les membres du conseil d'administration continuent de rechercher un nouveau PDG.

Le conseil d'administration d'OpenAI a choisi d'embaucher Emmett Shear, l'ancien PDG de la plateforme de streaming de jeux en direct d'Amazon Twitch, en tant que PDG, et le retour d'Altman a échoué.

En apprenant qu'Altman ne reviendrait pas, des dizaines d'employés d'OpenAI ont annoncé en interne qu'ils quittaient l'entreprise.

Le PDG de Microsoft, Satya Nadella, a annoncé que les fondateurs d'OpenAI, Sam Altman et Greg Brockman, ainsi que leurs collègues rejoindraient Microsoft pour diriger une nouvelle équipe de recherche avancée sur l'intelligence artificielle.
20 novembre, heure locale

Plus de 710 employés d'OpenAI ont demandé au conseil d'administration de démissionner, sinon ils pourraient rejoindre collectivement Microsoft.

À suivre…

# Bienvenue pour suivre le compte public officiel WeChat d'Aifaner : Aifaner (WeChat ID : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo