Dernière interview de Sam Altman : l’exposition revient à l’histoire intérieure, répondant pour la première fois au modèle Q*

Il y a un an aujourd'hui, OpenAI lançait ChatGPT, déclenchant l'explosion cambrienne de l'intelligence artificielle.

Le sentiment d'accélération de l'évolution technologique devient de plus en plus fort, et « être témoin de l'histoire » est devenu une chose courante. Avec l'excitation, l'anxiété, l'inquiétude, la réflexion… tout le monde semble impatient de tourner une nouvelle page de l'histoire.

Après une série de troubles récents, OpenAI a également officiellement annoncé aujourd'hui le retour d'Altman, et Microsoft, le plus grand investisseur de la société, rejoindra également le conseil d'administration en tant qu'observateur sans droit de vote.

Dans le même temps, Altman a également accepté une interview exclusive avec The Verge , parlant de certaines informations privilégiées avant le retour, ainsi que du modèle Q* qui a été exposé plus tôt – la technologie d'IA considérée comme une menace pour l'humanité. .

Mais dans cette interview, Altman a refusé à plusieurs reprises de répondre à la question la plus importante : pourquoi diable a-t-il été licencié ?

Lorsque le conseil d'administration d'OpenAI a demandé à Sam Altman de revenir un jour après l'avoir licencié, Altman s'est d'abord montré résistant, blessé et en colère. Il a déclaré aux journalistes au téléphone :

Il m'a fallu quelques minutes pour m'en sortir, me remettre de moi-même et de mes émotions, et penser : « Ouais, bien sûr, je veux faire ça. « Évidemment, j'adore cette entreprise et je m'y suis pleinement investi depuis quatre ans et demi, mais cela m'a en fait pris beaucoup plus de temps. Nous avons fait d’énormes progrès dans une mission qui me tient profondément à cœur : l’intelligence artificielle sûre et bénéfique.

Ce qui suit est l'interview complète de The Verge avec le PDG d'OpenAI, Sam Altman, et la CTO Mira Murati, légèrement éditée par Ai Faner :

Q : Sam, je veux commencer par parler de l’évidence, c’est-à-dire que nous ne savons toujours pas pourquoi vous avez été licencié en premier lieu. Pourquoi pensez-vous que vous avez été licencié ?

Altman : Le conseil d’administration procédera ici à un examen indépendant. J’en suis très heureux. Je n’ai pas grand chose à dire pour le moment, mais j’ai hâte d’en savoir plus.

Q : Pourquoi pensez-vous que le conseil d’administration a déclaré qu’il avait perdu confiance en vous ?

Altman : C'est une meilleure réponse pour eux.

Q : Vous venez de dire sur X : « Il est clair qu'il y a eu de réels malentendus entre vous et les membres du conseil d'administration. » Quels étaient ces malentendus ?

Altman : Je ne suis pas encore prêt à en parler. Je pense qu'il est important de laisser ce processus de révision se dérouler. Je suis heureux de parler de tout ce qui est prospectif. Je pense qu’il y aura un moment où je serai plus qu’heureux de parler de ce qui s’est passé ici, mais ce n’est pas le moment.

Q : Pouvez-vous me dire pourquoi vous ne pouvez pas en parler maintenant ?

Altman : Je veux juste que le processus se déroule sans intervention.

Q : Vous avez mentionné Ilya Sutskever (le scientifique en chef d’OpenAI) dans votre lettre aux employés. Pouvez-vous me dire pourquoi il a changé d’avis et décidé de se ranger du côté des autres ?

Mira Murati : Nous ne savons pas. Il faut demander à Ilya.

Q : Sam, avec le recul, quelle a été la principale motivation qui vous a ramené ?

Altman : C'est vraiment intéressant. Certains membres du conseil d'administration m'ont appelé samedi matin et m'ont demandé si je voulais parler de cette question. Ma première réaction a été un peu sur la défensive, du genre : "Oh mon Dieu, je suis blessé, je suis en colère, je pense que c'est mauvais."

Et puis j'ai commencé à penser presque immédiatement, évidemment, j'aime tellement cette entreprise et je m'y consacre tellement depuis quatre ans et demi, mais cela m'a en fait pris beaucoup plus de temps. Nous avons fait d’énormes progrès dans une mission qui me tient profondément à cœur : l’intelligence artificielle sûre et bénéfique. Mais ce sont aussi les gens ici et tous les partenaires qui ont de grandes attentes à notre égard, et Mira, l'équipe de direction et tous les gens ici qui font un travail incroyable. Il m'a fallu quelques minutes pour m'en sortir, me remettre de moi-même et de mes émotions, et penser : "Ouais, bien sûr, je veux faire ça."

Q : Le conseil d’administration vous a donc demandé de revenir ?

Altman : Oui.

Q : Étiez-vous hésitant au début ?

Altman : Pas pour longtemps. Ce qui m’est arrivé après m’a fait ressentir beaucoup de choses.

Q : Il est clair que les employés vous soutiennent. Selon vous, quel impact cela a-t-il ?

Altman : Nous sortons définitivement de ce processus comme une équipe plus forte, plus unie, plus concentrée et engagée. Je pense que nous avions beaucoup de confiance et de concentration avant et je pense que nous en avons encore plus maintenant. C’est donc mon côté positif dans tout cela.

Tout au long du processus, nous n’avons perdu aucun employé ni client. Non seulement ils ont maintenu le produit en marche malgré une croissance ingérable, mais ils ont également déployé de nouvelles fonctionnalités. Les progrès de la recherche se poursuivent.

Q : Souhaitez-vous revenir au conseil d’administration ?

Altman : Même si cela ressemble à un argumentaire de relations publiques, ce n'est pas mon domaine d'intervention pour le moment. J'ai un tas de travaux très difficiles, importants et urgents à accomplir. Je veux faire mon travail, mais ce n'est pas comme si j'étais membre du conseil d'administration ou non. Maintenant, je ne prends pas le temps d'y penser.

Q : Que signifie « améliorer notre structure de gouvernance » ? La structure de la société holding à but non lucratif va-t-elle changer ?

Altman : Il serait plus approprié qu'un membre du conseil d'administration réponde, mais pas maintenant. Honnêtement, ils ont besoin de temps et nous les aiderons à y réfléchir. De toute évidence, il y a quelque chose qui ne va pas dans notre structure de gouvernance. Il faudra un certain temps pour trouver la meilleure façon de résoudre ce problème. Je comprends parfaitement pourquoi les gens veulent une réponse maintenant. Mais je pense aussi qu’il est totalement déraisonnable d’attendre des réponses immédiates.

Q : Pourquoi pensez-vous que cela est déraisonnable ? Je pense que les gens voient beaucoup d'ambiguïté sur ce qui se passe. Cela ressemble à un désaccord, pas à un comportement inapproprié ou quelque chose comme ça.

Altman : Oh, tout simplement parce que concevoir une très bonne structure de gouvernance, en particulier pour une technologie aussi impactante, n'est pas une question de la semaine. Il faudra du temps réel pour réfléchir, débattre, obtenir des points de vue extérieurs, faire des tests de résistance. Cela prend un certain temps.

Q : Les événements qui viennent de se produire changeront-ils l’approche d’OpenAI en matière de sécurité ?

Murati : Non. Cela n'a rien à voir avec la sécurité.

Q : En ce qui concerne le rapport sur votre récente percée du modèle Q*, de quoi s'agit-il ?

Altman : Je n’ai pas de commentaire particulier sur cette malheureuse fuite. Mais en réalité, nous avons déjà souligné, tout comme ce que nous avons dit il y a deux semaines, ce que nous avons dit il y a un an et ce que nous avons dit encore plus tôt, que nous espérons que les progrès de cette technologie continueront à être rapides, et nous espérons également que continuez à travailler dur pour l’améliorer et sachez comment le rendre sûr et bénéfique. C'est pour ça qu'on se levait tous les jours. C'est pourquoi nous nous lèverons tous les jours à l'avenir. Je pense que nous avons été très cohérents sur ce point.

Sans commenter quelque chose ou projet spécifique, nous pensons que le progrès est la recherche. Il est toujours possible que vous rencontriez des obstacles, mais nous espérons que les progrès continueront d'être significatifs. Nous voulons dialoguer avec le monde et trouver comment rendre cette technologie aussi performante que possible.

Q : Dernière question. Je suis sûr que tu penses encore à tout ça. Je sais que tout cela est nouveau. Qu’avez-vous appris de tout cet incident ?

Je ne pense pas avoir encore de réponse concise et puissante. Évidemment, j'ai beaucoup appris, mais j'essaie toujours de donner un sens à tout cela. Je veux dire, il y a certainement beaucoup de choses à dire, mais je ne pense pas être encore prêt… Je ne peux que donner une réponse longue et décousue pour le moment.

Altman : Eh bien, nous en reparlerons plus tard.

Après avoir raccroché, Altman a rappelé quelques minutes plus tard :

J’ai appris que l’entreprise pouvait vraiment fonctionner sans moi, ce qui était vraiment une bonne chose. Je suis heureux d'être de retour, ne vous méprenez pas. Mais je suis revenu sans aucune pression du genre : « Oh, je dois faire ça, ou l'entreprise a besoin de moi ou autre. »

Je pensais que je me sentais bien parce que j'avais choisi de grands leaders ou que je les avais bien coachés. Cela fait du bien que l’entreprise aille bien sans moi et que l’équipe soit prête et s’améliore.

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo