Sam Altman : GPT-5 sera gratuit et ouvert, DeepSeek nous a donné une leçon Transcription de l’interview de Wanzi

Je pense que DeepSeek est en effet une excellente équipe et a créé d'excellents modèles, mais la raison pour laquelle ils sont vraiment populaires n'est pas entièrement due aux capacités du modèle lui-même.

La leçon ici pour nous est que lorsque nous cachons une fonctionnalité (chaîne de pensée), nous laissons la possibilité aux autres de devenir viraux. C’est un bon signal d’alarme. Cela m'a également fait repenser ce que nous proposons dans le niveau gratuit, où GPT-5 sera gratuit.

Ben Thompson, un analyste bien connu de la Silicon Valley, a récemment eu une conversation approfondie avec le PDG d'OpenAI, Sam Altman, qui a parlé de nombreux contenus, notamment des modèles open source, des progrès de GPT-5 et de la concurrence avec DeepSeek. Il a également révélé l'orientation future du développement d'OpenAI et ses observations sur l'AGI.

Dans cette interview, les gens ont une fois de plus ressenti l'impact des modèles open source tels que DeepSeek sur OpenAI. Au cours des deux derniers mois, le rythme de sortie des produits OpenAI a également commencé à suivre les modèles et produits apparus en Chine tels que Thinking Chain et Agent.

Sam Altman qualifie l'essor d'OpenAI de « une folle opportunité ». Le succès de ChatGPT a contraint l'entreprise à devenir une entreprise de technologie grand public.

C’est devenu le plus grand défi d’OpenAI à l’heure actuelle,

APPSO résume les points clés de cet entretien :

1. L'émergence de DeepSeek est un « signal d'alarme » qui incite OpenAI à reconsidérer sa stratégie de niveau gratuit.

2. Cela laisse entendre que GPT-5 sera bientôt lancé et que les utilisateurs gratuits peuvent également découvrir GPT-5.

3. OpenAI espère créer une série de produits avec des milliards d'utilisateurs.

4. Sam Altman estime qu'un milliard d'utilisateurs actifs quotidiens a plus de valeur que le modèle le plus avancé.

5. Le positionnement futur d’OpenAI repose sur trois piliers :
·Créer des sociétés Internet à grande échelle.
·Construire une infrastructure pour l'inférence.
·Faites les meilleures recherches et les meilleurs modèles.

6. L'illusion a sa valeur et est une manifestation de la créativité. La clé est de contrôler l’illusion afin qu’elle apparaisse lorsque l’utilisateur en a besoin.

7. Le succès inattendu de ChatGPT a forcé OpenAI à passer d'un laboratoire de recherche à une entreprise de technologie grand public.

8. Sam Altman a admis que ce n'était pas le plan initial et qu'il souhaitait à l'origine se concentrer sur la recherche AGI.

9. L'AGI est un concept vague sans définition unifiée. L'AGI a tendance à être définie comme un agent capable d'accomplir de manière autonome une série de tâches.

Voici la transcription de l'entretien, légèrement éditée et sélectionnée par APPSO :

L'utilisation de GPT-5 sera gratuite

Animateur : De mon point de vue, lorsque vous parlez de servir des milliards d'utilisateurs et d'être une entreprise de technologie grand public, cela signifie publicité. Vous n'êtes pas d'accord ?

SA : J'espère que non. Je ne m'y oppose pas. Je ne vais pas m'entêter sur quelque chose si j'ai une bonne raison de le faire. Mais nous avons un excellent modèle économique, celui de la vente d’abonnements.

Animateur : Il reste encore un long chemin à parcourir avant de pouvoir réaliser des bénéfices et récupérer tous nos investissements. Et l’avantage de la publicité est qu’elle élargit la portée et la profondeur de votre marché adressable, car vous pouvez augmenter les revenus par utilisateur et les annonceurs paient pour cela. Vous n’aurez aucun problème d’élasticité des prix, les gens l’utiliseront simplement davantage.

SA : À l'heure actuelle, je suis plus intéressé à trouver comment facturer aux gens des honoraires intéressants pour un très bon ingénieur en logiciel d'automatisation, ou un autre type d'agence, plutôt que de gagner un peu d'argent grâce à un modèle basé sur la publicité.

Modérateur : Je sais, mais la plupart des gens ne sont pas rationnels. Ils ne paient pas pour des logiciels de productivité.

SA : Nous verrons.

Modérateur : Je paie pour ChatGPT Pro et je ne suis pas la bonne personne avec qui en discuter. Mais j'ai juste…

SA : Avez-vous l'impression d'en tirer une bonne valeur ?

Animateur : Bien sûr, je pense. Je pense–

SA : Super.

Modérateur : – Surtout Deep Research, c’est génial. Cependant, je suis probablement plus sceptique quant à la volonté des gens de payer activement pour quelque chose, même si le calcul est évident et même si cela les rend beaucoup plus efficaces. Aussi, je vois que vous parlez de créer des souvenirs. Une partie de ce qui rend le modèle publicitaire de Google si génial est qu'ils n'ont pas besoin de très bien connaître l'utilisateur, car les gens taperont ce qu'ils veulent trouver dans le champ de recherche. Les gens saisissent de nombreuses informations dans votre chatbot.

Même si vous diffusez les publicités les plus « stupides », à bien des égards, vos capacités de ciblage seront extraordinaires, même si vous ne pouvez pas suivre les conversions. Et, soit dit en passant, vous n’avez pas de modèle commercial existant dont vous pourriez craindre d’être dilué. Mon sentiment est que cela est complètement contraire à ce que tout le monde chez OpenAI avait initialement envisagé, et c'est le plus gros obstacle. Mais pour moi, du point de vue d’un analyste commercial, cela semble assez évident, et il est déjà trop tard pour vous.

SA : Je suis plus intéressé à essayer d'autres approches que la publicité traditionnelle. Par exemple, de nombreuses personnes utilisent Deep Research pour le commerce électronique. Pouvons-nous proposer une sorte de nouveau modèle dans lequel nous ne facturerons jamais d'argent pour changer l'emplacement d'un article ou quoi que ce soit, mais si vous achetez un article que vous trouvez via Deep Research, nous facturerons une commission d'affiliation de 2%, ou quelque chose comme ça. Ce serait cool, je n'ai aucun problème avec ça. Peut-être pouvons-nous trouver un moyen décent d’en faire la publicité, mais je ne sais pas. Je n'aime pas vraiment la publicité.

Animateur : C'est toujours un obstacle. Mark Zuckerberg n’aime pas non plus beaucoup la publicité, mais il trouve quand même quelqu’un pour le faire et « ne me dites pas les détails » et laisse l’argent apparaître comme par magie.

SA : Oui. Encore une fois, j’aime notre modèle économique actuel. Je ne vais pas dire ce que nous ferons ou ne ferons pas à l’avenir, car je ne le sais pas. Mais je pense qu’il existe de nombreuses façons intéressantes d’y parvenir qui figurent plus haut dans notre liste actuelle de stratégies de monétisation que la publicité.

Modérateur : Pensez-vous que lorsque DeepSeek est sorti et est rapidement devenu populaire et que les gens ont commencé à l'utiliser et à voir ses capacités d'inférence, cela s'expliquait en partie par le fait que les personnes qui avaient utilisé ChatGPT n'étaient pas très impressionnées car elles avaient utilisé le modèle o1 et connaissaient son potentiel.

SA : Oui.

Modérateur : Mais les utilisateurs gratuits, ou les personnes qui ne l'ont utilisé qu'une fois de temps en temps, ne ressentent pas cela. Est-ce réellement un exemple de la façon dont votre réticence pourrait rendre d’autres produits plus impressionnants ?

SA : Totalement. Je pense à DeepSeek – ils ont une excellente équipe et ils ont développé un excellent modèle. Cependant, je ne pense pas que les capacités des modèles soient vraiment ce qui les rend viraux.

C'est une leçon pour nous : lorsque nous cachons une fonctionnalité (nous cachons la « chaîne de pensée »), nous avons une bonne raison de le faire, mais cela signifie que nous laissons la possibilité aux autres de devenir viraux. Je pense que c'est un bon signal d'alarme de ce point de vue. Mais aussi, cela me fait repenser ce que nous proposons dans le niveau gratuit, GPT-5 sera gratuit, ce qui est cool .

Modérateur : Wow, des allusions à GPT-5. Eh bien, je vous en demanderai plus plus tard.

Modérateur : Lorsque vous réfléchissez à votre modèle commercial, j'ai toujours pensé que votre modèle commercial était très adapté aux personnes "très motivées", c'est-à-dire celles qui utiliseront activement ChatGPT et sont prêtes à payer pour cela parce qu'elles voient sa valeur. Mais combien de personnes sont « très motivées » ? Aussi, les gens « très motivés » vont essayer tous les autres modèles, il faut donc rester à un niveau assez élevé. En revanche, si j'ai un modèle qui fonctionne, il est là, et je n'ai pas à payer pour cela, il continue de s'améliorer et les gens gagnent plus d'argent grâce à moi, mais je ne le sais pas car je n'ai pas de problème avec la publicité, comme la plupart des internautes.

SA : Encore une fois, nous sommes ouverts à tout ce qui doit être fait. Cependant, par rapport à la publicité traditionnelle, je suis plus intéressé par le modèle e-commerce que je viens d’évoquer.

Concurrence avec DeepSeek et autres

Animateur : Concernant DeepSeek, vous êtes-vous déjà demandé pourquoi les gens n’encouragent pas les entreprises américaines ? Pensez-vous que la popularité de DeepSeek suscite également des sentiments « anti-OpenAI » ?

SA : Je ne le fais pas. Peut-être, mais je ne l'ai certainement pas ressenti. Je pense qu'il y a deux choses. Premièrement, ils ont mis un modèle de pointe sur le niveau gratuit. Deuxièmement, ils ont montré la « chaîne de pensée », qui est très attrayante.

Animateur : Les gens disent : "Oh, c'est tellement mignon. L'IA essaie de m'aider."

SA : Oui. Je pense que ce sont principalement ces deux choses.

Modérateur : Dans votre "Plan d'action IA" récemment proposé, OpenAI a exprimé ses inquiétudes concernant le développement de l'entreprise basé sur les modèles DeepSeek, qui sont "disponibles gratuitement". Si cela pose vraiment un problème, la solution ne serait-elle pas également de rendre vos modèles disponibles gratuitement ?

SA : Oui, je pense que nous devrions le faire.

Animateur : Alors, quand…

SA : Je ne peux pas encore annoncer de date de sortie, mais d'un point de vue directionnel, je pense que nous devrions le faire.

Modérateur : Vous avez déjà dit qu'un site Web avec 1 milliard d'utilisateurs a plus de valeur qu'un modèle. Cela devrait-il donc se refléter dans votre stratégie de publication et dans votre vision de l’open source ?

SA : Restez à l’écoute.

Animateur : D'accord, j'attends ça avec impatience. aucun problème.

SA : Je ne dévoile rien à l’avance, mais restez à l’écoute.

Animateur : Je pense que la question suivante est : est-ce une opportunité pour vous de revenir à votre mission initiale ? Si vous regardez l'annonce initiale, DeepSeek et Llama…

SA : Ben, j'essaie de te donner autant d'indices que possible sans le dire ouvertement. S'il te plaît.

Modérateur : (D'accord, pas de problème. Juste, juste. Y avait-il un sentiment que cela était libérateur ? N'est-ce pas ? Vous repensez à cette annonce GPT-2, et aux préoccupations concernant la sécurité et d'autres problèmes possibles. Cela semble un peu ringard à ce stade. Y avait-il le sentiment que le secret était dévoilé ? Dans ce contexte, à quoi bon avoir une sorte d'attitude chérie envers ces versions ?

SA : Je pense toujours qu’il pourrait y avoir beaucoup de risques à l’avenir. Je pense qu'il est juste de dire que nous avons été trop conservateurs dans le passé. Je pense aussi qu'il n'y a rien de mal à ce principe d'être un peu plus conservateur quand on ne connaît pas clairement la situation. Je pense aussi qu'à ce stade, cette technologie va proliférer dans tous les domaines, et que nos modèles fassent de mauvaises choses ou que les modèles d'autres personnes fassent de mauvaises choses, quelle différence cela fait-il ? Mais que dire, j'espère toujours que nous pourrons être des participants aussi responsables que possible.

Animateur : Un autre concurrent récent est Grok. De mon point de vue, au cours de la dernière année, j’ai vécu deux expériences psychologiques avec l’IA que j’ai trouvées très intéressantes. Une fois, j'exécutais un modèle local sur mon Mac. Pour une raison quelconque, je suis très conscient qu'il est sur mon Mac et ne fonctionne nulle part ailleurs, ce qui est en fait une sensation plutôt cool. L’autre fois, c’est avec Grok, je n’ai pas l’impression qu’il y ait une « police morale » qui va intervenir et m’accuser à un moment donné. Je pense qu'il faut admettre que ChatGPT s'est beaucoup amélioré à cet égard. Mais Grok vous fait-il penser qu’en réalité, on peut aller plus loin et permettre aux utilisateurs d’agir comme des adultes ?

SA : En fait, je pense que nous avons fait un meilleur travail. Je pense que nous étions vraiment mauvais dans ce domaine auparavant, mais au cours des six à neuf derniers mois, je pense que nous nous sommes beaucoup améliorés.

Modérateur : Je suis d'accord. Cela s’est définitivement amélioré.

SA : C'était l'une de mes plus grandes préoccupations concernant notre produit. Mais maintenant, comment dire, en tant qu'utilisateur, cela ne me dérange plus, je pense que nous avons fait du bon travail. Donc, j'y pensais beaucoup, mais au cours des six à neuf derniers mois, je n'y ai plus pensé.

Devenir une entreprise de technologie grand public était un accident

Modérateur : Parlons de la question des organisations à but non lucratif – il y a un dicton, vous avez évoqué ce « mythe ». Supposons que vous ayez créé une organisation à but non lucratif pour des raisons altruistes, mais aussi pour rivaliser avec Google en matière de talents. C'est tout ?

SA : Vous demandez : pourquoi avez-vous choisi de devenir une organisation à but non lucratif ?

Animateur : Pourquoi avez-vous choisi de devenir une organisation à but non lucratif, et toutes les questions qui en découlent ?

SA : Parce que nous pensions que nous n'étions qu'un laboratoire de recherche. Nous n'avons jamais pensé que nous pourrions devenir une entreprise. Notre projet était alors de publier un document de recherche. Pas de produit, pas de plan produit, pas de revenus, pas de modèle économique et aucun plan pour tout cela. Une chose qui m’a toujours aidé dans la vie est de me frayer un chemin à travers les ténèbres jusqu’à trouver la lumière. Nous avons longtemps tâtonné dans le noir et trouvé quelque chose qui fonctionnait.

Animateur : C’est vrai. Mais le statut de l’organisation à but non lucratif est-il désormais une sorte de boulet autour du cou de l’entreprise ? Si c’était à refaire, que feriez-vous différemment ?

SA : Bien sûr. Si j’avais pu prédire ce qui s’est passé plus tard, nous aurions certainement une structure organisationnelle différente. Mais nous ne le savions pas à l'époque, et je pense que le prix à payer pour être à l'avant-garde de l'innovation est qu'on fait beaucoup d'erreurs stupides parce qu'on est coincé dans le brouillard de la guerre.

Animateur : J'ai d'autres théories dont je souhaite discuter avec vous sur ChatGPT et sur le fait que personne ne s'attendait à ce que vous deveniez une entreprise de technologie grand public. Cela a toujours été mon propos : vous êtes à l'origine un laboratoire de recherche, bien sûr, nous allons publier une API et peut-être gagner de l'argent. Mais vous avez évoqué cette période d’expansion de six mois, il faut saisir cette opportunité qui tombe du ciel. On parle beaucoup dans le monde de la technologie de l’attrition des employés, du départ de certains grands noms, etc.

Il me semblait que personne n’était là pour être une entreprise de produits de consommation. S’ils veulent travailler chez Facebook, ils peuvent aller sur Facebook. C’est une autre contradiction fondamentale : vous avez cette opportunité, que vous le vouliez ou non, elle est là. Cela signifie que la situation ici est très différente depuis le début.

SA : Disons simplement que je n’ai rien à redire, non ? J'ai eu le meilleur travail en technologie. Ce serait très méchant si je commençais à me plaindre que ce n’était pas ce que je voulais, que c’était malheureux pour moi, etc. Ce que je veux, c'est diriger un laboratoire de recherche AGI et comprendre comment construire AGI.

Je n’avais vraiment pas l’intention de diriger une grande entreprise Internet grand public. Je savais, grâce à mon travail précédent (qui à l'époque était aussi ce que je considérais comme le meilleur travail dans le domaine de la technologie, donc je me considère très, très chanceux d'avoir eu le meilleur travail à chaque fois) combien d'efforts il faut pour diriger une grande entreprise de consommation, et combien c'est difficile à certains égards.

Mais je sais aussi comment le faire parce que j’ai déjà entraîné beaucoup de gens et que j’ai beaucoup regardé. Lorsque nous avons lancé ChatGPT, nous avons constaté une augmentation quotidienne du nombre d'utilisateurs qui faisaient planter nos serveurs. Puis, la nuit, le nombre d'utilisateurs a chuté et tout le monde s'est dit : "C'est fini, ce n'est qu'une viralité à court terme." Puis le lendemain, le pic a de nouveau augmenté, puis est retombé : « C'est fini. Le cinquième jour, je me disais : « Oh mon Dieu, je sais ce qui va se passer. J'ai vu cela arriver tellement de fois. »

Animateur : Mais avez-vous vraiment vu cela se produire à plusieurs reprises ? Parce que tout le jeu tourne autour de l’acquisition de clients. Pour de nombreuses startups, c’est le plus grand défi. Il existe en fait très peu d’entreprises qui résolvent véritablement les problèmes d’acquisition de clients grâce à la croissance organique et à la propagation virale. Je pense que l’entreprise qui était vraiment en avance sur OpenAI dans ce domaine était Facebook, et c’était au milieu des années 2000. Je pense que vous surestimez peut-être le nombre de fois où vous avez déjà vu cela se produire.

SA : Eh bien, à cette échelle, en effet, nous sommes probablement les plus grands. Je pense que nous sommes probablement la plus grande entreprise fondée depuis Facebook.

Animateur : Les entreprises de technologie grand public de cette taille sont en réalité très rares, elles ne se produisent pas très souvent.

SA : Oui. Mais j’ai déjà vu des entreprises comme Reddit, Airbnb, Dropbox, Stripe et bien d’autres parvenir à cette étonnante adéquation produit-marché et exploser en termes de croissance. Alors peut-être que je ne l'ai pas vu à cette échelle. À l’époque, on ne savait pas jusqu’où cela allait aller, mais j’avais déjà vu ce schéma précoce.

Animateur : Avez-vous dit à tout le monde que cela allait arriver ? Ou est-ce quelque chose que vous ne pouvez tout simplement pas transmettre ?

SA : Je l'ai dit à tout le monde. J'ai réuni les gens de l'entreprise et je leur ai dit : "Ça va être fou. Nous avons beaucoup de travail à faire et il faut le faire rapidement. Mais c'est une belle opportunité qui est tombée du ciel et nous allons la saisir. Voici ce qui va se passer…"

Modérateur : Est-ce que quelqu'un vous comprend ou vous croit ?

SA : Je me souviens d'être rentré chez moi un soir, d'avoir mis ma tête dans mes mains et de m'être senti déprimé. J'ai dit : "Oh mon Dieu, Oli [Oliver Mulherin], c'est terrible". Il a dit : "Je ne comprends pas, ça a l'air génial." J'ai dit : "C'est vraiment mauvais, et c'est vraiment mauvais pour toi, tu ne le sais pas encore, mais que va-t-il se passer ensuite…" Mais je pense que personne ne comprend vraiment. C'est quelque chose de spécial dans mon expérience précédente, et j'ai pu m'en rendre compte très tôt, mais personne ne pouvait comprendre à quel point ces premières semaines allaient devenir folles.

Animateur : Qu'est-ce qui aura le plus de valeur dans cinq ans ? Un site internet avec 1 milliard d’utilisateurs actifs quotidiens, pas besoin d’acquisition client, ou un modèle à la pointe de la technologie ?

SA : Je pense que c'est un site Web qui compte un milliard d'utilisateurs.

Animateur : Est-ce vrai de toute façon ? Ou, parce qu'au moins au niveau du GPT-4 (je ne sais pas si vous l'avez vu aujourd'hui, LG vient de sortir un nouveau modèle), il y aura beaucoup, je ne sais pas, je ne dirai pas si c'est bon ou mauvais, mais il y aura beaucoup de modèles de pointe dans le futur.

SA : Mon analogie historique préférée est celle du transistor, et AGI sera comme le transistor. Il y aura beaucoup d'AGI à l'avenir, elles pénétreront dans divers domaines et deviendront très bon marché. Il s’agit d’une propriété émergente de la physique et ne peut pas constituer un différenciateur en soi.

Animateur : Alors, quel sera le facteur de différenciation ?

SA : Je pense que l’avantage stratégique réside dans la création d’une société Internet géante. Je pense que cela devrait inclure quelques services clés différents. Il peut y avoir trois ou quatre produits comme ChatGPT, et vous souhaiterez acheter un abonnement groupé qui les inclut tous. Vous souhaitez pouvoir vous connecter avec votre IA personnelle, qui a appris à vous connaître tout au long de votre vie, et pouvoir l'utiliser dans d'autres services.

Je pense qu'il y aura à l'avenir de nouveaux appareils étonnants, optimisés pour la façon dont vous utilisez AGI. Il y aura de nouveaux navigateurs web, il y aura tout un écosystème. En bref, quelqu’un construira un produit précieux autour de l’IA. C'est l'un des aspects.

Un autre aspect est la pile d'inférence, qui indique comment réaliser l'inférence la moins chère et la plus riche. Puces, centres de données, énergie, il va y avoir une ingénierie financière intéressante à faire, tout cela est couvert.

Et puis, le troisième aspect est de faire les meilleures recherches et de développer les meilleurs modèles. Je pense que c'est la « troïka » de la valeur. Cependant, à l’exception des modèles les plus avancés, je pense que la plupart des modèles deviendront rapidement une marchandise.

Modérateur : Donc, lorsque Satya Nadella dit que les modèles sont banalisés et qu'OpenAI est une entreprise de produits, c'est toujours un geste amical et vous êtes toujours sur la même longueur d'onde, n'est-ce pas ?

SA : Oui, je ne sais pas si cela ressemble à un compliment pour la plupart des auditeurs, mais je pense qu'il voulait nous complimenter.

Animateur : C’est comme ça que je le comprends. Vous m'avez demandé d'expliquer votre stratégie. J'ai écrit peu de temps après le lancement de ChatGPT qu'il s'agissait d'une « entreprise de technologie grand public accidentelle ».

SA : Je me souviens que vous avez écrit cet article.

Animateur : C'est l'opportunité la plus – comme je l'ai dit, c'est l'opportunité la plus rare dans l'industrie technologique. Je pense que j'ai beaucoup appris de Facebook en termes d'analyse stratégique parce que c'était une entité très rare et je me disais : « Non, vous n'avez aucune idée d'où cela va nous mener. » Mais je n’ai commencé qu’en 2013 et j’ai raté le début. Je fais de Stratechery depuis 12 ans, et j'ai l'impression que c'est la première fois que je peux couvrir une entreprise depuis le début, et à cette échelle.

SA : Cela n'arrive pas très souvent.

Animateur : Pas souvent, en effet. Mais, en parlant de cela, vous venez de publier une mise à jour majeure de l'API qui inclut l'accès au même modèle « d'utilisation du calcul » sous-jacent à Operator (un argument de vente de GPT Pro). Vous avez également publié l'API Responses. Je pense que la chose la plus intéressante à propos de l'API Responses est que vous avez dit : "Nous pensons que c'est bien mieux que l'API Chat Completions, mais bien sûr, nous continuerons à la maintenir car beaucoup de personnes ont déjà développé sur cette base." C'est devenu un standard de l'industrie et tout le monde copie votre API. À quel moment ce travail lié à l'API, ainsi que la maintenance des anciennes versions et l'intégration de nouvelles fonctionnalités dans les nouvelles versions, deviennent-ils une distraction et un gaspillage de ressources ? Après tout, vous avez devant vous une opportunité au niveau de Facebook.

SA : Je crois vraiment à la stratégie de « suite de produits » que je viens de mentionner. Je pense que si nous exécutons extrêmement bien, dans cinq ans, nous aurons une série de (une poignée de) produits avec des milliards d’utilisateurs. Ensuite, nous avons eu cette idée : vous pouvez utiliser votre compte OpenAI pour vous connecter à n'importe quel autre endroit qui souhaite intégrer notre API, et vous pouvez emporter vos points, vos modèles personnalisés et tout le reste avec vous où vous le souhaitez. Je pense que c'est la clé pour que nous devenions vraiment une excellente plateforme.

Modérateur : Mais c’est le problème de Facebook. Il est difficile d’être à la fois une plateforme et un agrégateur (selon mes termes). Je pense que le mobile est une bonne chose pour Facebook car il l’oblige à abandonner le fantasme d’être une plateforme. Vous ne pouvez pas être une plateforme, vous devez accepter que vous êtes un réseau de contenu avec de la publicité. Les publicités sont simplement plus de contenu. Cela les oblige en fait à se placer dans une meilleure position stratégique.

SA : Je ne pense pas que nous allons être une plateforme comme un système d'exploitation. Mais je pense que, tout comme Google n'est pas vraiment une plate-forme, mais que les gens se connectent avec des comptes Google, ils diffusent leur contenu Google aux quatre coins du Web, et cela fait partie de l'expérience Google. Je pense que c'est ainsi que nous devenons une plateforme.

Modérateur : Transporter vos informations de connexion, c'est transporter votre mémoire, votre identité, vos préférences, toutes ces choses.

SA : Oui.

Animateur : Donc, vous êtes juste au-dessus de tout le monde. Ils ont plusieurs options de connexion et la connexion d'OpenAI est meilleure car elle inclut votre mémoire ? Ou devez-vous utiliser notre méthode de connexion si vous souhaitez utiliser notre API ?

SA : Non, non, non. En option bien sûr.

Modérateur : Ne pensez-vous pas que lorsque vous avez une opportunité aussi énorme devant vous, cela serait une distraction ou un détournement de ressources ?

SA : Nous devons faire beaucoup de choses à la fois, c’est la partie la plus difficile. Je pense qu’à bien des égards, oui, je pense que l’un des défis les plus redoutables de l’OpenAI est que nous devons être très bons dans beaucoup de choses.

Animateur : Eh bien, c'est le « paradoxe du choix ». Il y a tellement de choses que vous pouvez faire.

SA : On n’a pas fait grand-chose, on a dit « non » à presque tout. Mais si l’on réfléchit uniquement aux éléments essentiels de ce que nous pensons devoir faire, je pense que nous devons faire beaucoup de choses, et je ne pense pas que nous puissions réussir en faisant simplement une seule chose.

"Illusion" a aussi un sens

Animateur : Est-il possible que « l’hallucination » soit réellement bénéfique ? Vous avez posté un exemple de modèle d'écriture, ce qui confirme en quelque sorte un point que je dis depuis longtemps, à savoir que tout le monde essaie de faire en sorte que ces modèles probabilistes se comportent comme des calculs déterministes, ignorant presque leur magie, c'est-à-dire qu'ils "inventent" en réalité le contenu. C’est en fait assez remarquable.

SA : Tout à fait d’accord. Si vous voulez quelque chose de déterministe, vous devez utiliser une base de données. La beauté ici est qu’il peut être créatif, même si parfois ce qu’il crée n’est pas tout à fait ce que vous vouliez. Mais ce n'est pas grave, vous pouvez réessayer.

Modérateur : Est-ce un problème avec le laboratoire d'IA ? Ou est-ce une question d’attentes des utilisateurs ? Comment pouvons-nous amener tout le monde à profiter de « l’illusion » ?

SA : Eh bien, vous voulez qu'il hallucine quand vous le voulez et qu'il n'hallucine pas quand vous ne le voulez pas. Si vous demandez : « Racontez-moi ce fait scientifique », vous espérez que ce n’est pas une « illusion ». Si vous dites : « Écrivez-moi une histoire créative », vous voulez une « illusion ». Je pense que la vraie question, ou la question intéressante, est de savoir comment faire en sorte que le modèle ne produise des « illusions » que lorsqu'il est bénéfique pour l'utilisateur ?

Animateur : Que pensez-vous de cela : lorsque ces mots clés sont révélés, ils disent des choses comme « Ne révèle pas ceci », ou « Ne dis pas cela » ou « Ne fais pas X, Y, Z ». Si nous nous inquiétons des problèmes de sécurité et d’alignement, apprendre à l’IA à mentir est-il un problème très sérieux ?

SA : Oui. Je me souviens que l'on se moquait de xAI pour avoir dit quelque chose dans l'invite du système concernant le fait de ne pas dire de mauvaises choses à propos d'Elon Musk ou quelque chose comme ça. C'était embarrassant pour eux, mais je me sentais un peu désolé pour eux parce que, eh bien, le modèle essayait juste de suivre les instructions qui lui étaient données.

Modérateur : Oui. C'est très sérieux.

SA : Très sérieusement. Oui. Alors, oui, c'était stupide, et certainement embarrassant, mais je ne pense pas que ce soit un « effondrement », comme tout le monde l'appelle.

Modérateur : Certains sceptiques, dont moi-même, estiment que certains aspects de votre appel à la réglementation constituent une tentative de gêner les concurrents potentiels. Je veux poser une question en deux parties. Premièrement, est-ce juste ? Deuxièmement, si le plan d'action sur l'IA ne fait rien d'autre qu'interdire les restrictions sur l'IA au niveau de l'État et déclarer l'utilisation équitable du matériel de formation protégé par le droit d'auteur, est-ce suffisant ?

SA : Tout d'abord, la plupart des réglementations que nous réclamons concernent uniquement les modèles les plus avancés, les modèles les plus avancés au monde, et imposent des normes de test de sécurité sur ces modèles. Je pense que c’est une bonne politique, mais j’ai de plus en plus l’impression que la plupart des gens dans le monde ne pensent pas que ce soit une bonne politique, et je m’inquiète de la « capture réglementaire ».

Alors, évidemment, j’ai mes propres convictions, mais il semble peu probable que nous parvenions à mettre en œuvre cette politique à l’échelle mondiale. Je pense que c'est un peu effrayant, mais j'espère que nous pourrons faire de notre mieux pour trouver une issue et peut-être que tout ira bien. Après tout, peu de gens veulent détruire le monde.

Mais vous ne voulez certainement pas alourdir le fardeau réglementaire de l’ensemble du secteur technologique. Les réglementations que nous réclamons n’affecteraient que nous, Google et une poignée d’autres entreprises. Encore une fois, je ne pense pas que le monde aille dans cette direction et que nous allons rivaliser selon les règles en vigueur. Mais oui, je pense qu'il serait très, très bénéfique s'il était clair que l'utilisation équitable est une utilisation équitable et que les États n'avaient pas toutes sortes de réglementations compliquées et différentes.

Modérateur : Y a-t-il quelque chose qu'OpenAI peut faire ? Par exemple, si Intel avait un nouveau PDG et était prêt à se recentrer sur l’IA, vous engageriez-vous à acheter des puces produites par Intel ? OpenAI peut-il vous aider ?

SA : J'ai longuement réfléchi à ce que nous pouvons faire au niveau de l'infrastructure et tout au long de la chaîne d'approvisionnement. Je n'ai pas encore une bonne idée. Si vous avez des suggestions, je suis tout ouïe. Mais je veux faire quelque chose.

Animateur : D’accord, bien sûr. Intel a besoin d'un client. C'est ce dont ils ont le plus besoin, un client qui n'est pas Intel. Le fait qu’OpenAI devienne un client majeur de l’architecture de Gaudi, en s’engageant à acheter de grandes quantités de puces, les aidera. Cela les propulsera vers l’avant. C'est votre réponse.

SA : Si nous développons des puces avec un partenaire qui travaille avec Intel et utilise un processus compatible, et si nous avons suffisamment confiance dans sa capacité à livrer, nous pouvons le faire. Encore une fois, je voulais faire quelque chose. Donc, je n'esquive pas la question.

Modérateur : Non, je suis également un peu injuste parce que je viens de vous dire que vous devez vous concentrer sur la croissance de votre activité grand public et supprimer l'API. Ce n’est vraiment pas juste de vous demander de vous concentrer sur le maintien de la production de puces aux États-Unis.

SA : Non, non, non, je ne pense pas que ce soit injuste. Je pense que si nous pouvons faire quelque chose pour aider, nous avons l'obligation de le faire. Mais nous essayons de savoir exactement quoi faire.

Il n'existe pas de norme unifiée pour l'AGI, et elle doit être capable d'effectuer une grande partie du travail de manière indépendante.

Animateur : Dario et Kevin Weil, je pense, ils ont tous deux dit d'une manière ou d'une autre que d'ici la fin de cette année, 99 % du codage sera automatisé, ce qui est un délai très rapide. Selon vous, quel est le ratio actuel ? Quand pensez-vous que nous dépasserons les 50 % ? Ou sommes-nous déjà au-delà de cela ?

SA : Je pense que dans de nombreuses entreprises, ce chiffre dépasse probablement les 50 % actuellement. Mais je pense que la véritable avancée viendra des agents de programmation autonomes, et personne ne l’a encore vraiment fait.

Animateur : Quels sont les obstacles ?

SA : Oh, nous avons juste besoin de plus de temps.

Modérateur : S'agit-il d'un problème de produit ou d'un problème de modèle ?

SA : Problèmes de modèle.

Modérateur : Faut-il continuer à recruter des ingénieurs logiciels ? Je vois que vous avez beaucoup de postes vacants.

SA : Mon hypothèse de base est qu’au fil du temps, la quantité de travail que chaque ingénieur logiciel peut effectuer augmentera considérablement. Et puis, à un moment donné, oui, nous aurons peut-être besoin de moins d’ingénieurs logiciels.

Animateur : Au fait, je pense que vous devriez embaucher davantage d'ingénieurs logiciels. Je pense que cela fait partie de mon point, je pense que vous devez aller plus vite. Cependant, vous avez mentionné GPT-5. Je ne sais pas où il se trouve, nous l'attendons depuis longtemps.

SA : Nous venons de sortir la version 4.5 il y a deux semaines.

Animateur : Je sais, mais nous sommes gourmands.

SA : Cela n'a pas d'importance. Vous n'avez pas à attendre longtemps. La nouvelle version ne sera pas disponible avant longtemps.

Modérateur : Qu'est-ce que l'AGI ? Vous avez de nombreuses définitions. OpenAI a également de nombreuses définitions. Quelle est votre définition actuelle, ou la plus avancée, de l’AGI ?

SA : Je pense que ce que vous venez de dire est la clé : l’AGI est une frontière floue qui englobe beaucoup de choses, et le terme, je pense, a été presque complètement dévalorisé. Selon les définitions de nombreuses personnes, nous avons peut-être atteint l'AGI, surtout si vous pouviez prendre une personne de 2020 à 2025 et lui montrer ce que nous avons.

Animateur : Eh bien, l’IA est comme ça depuis de nombreuses années. L’IA fait toujours référence à des choses que nous ne pouvons pas faire. Une fois que nous y parvenons, cela devient un apprentissage automatique. Une fois que vous ne le remarquez pas, cela devient un algorithme.

SA : Oui. Je pense que pour beaucoup de gens, AGI fait référence à une partie de la valeur économique. Pour beaucoup de gens, cela fait référence à quelque chose de générique. Je pense qu'ils font bien beaucoup de choses. Pour certains, cela fait référence à quelque chose qui ne commet pas d’erreurs stupides. Pour certains, cela fait référence à quelque chose qui s’améliore, etc. Il n’existe tout simplement pas de bonne norme unifiée.

Animateur : Et les agents ? Qu'est-ce qu'un mandataire ?

SA : Quelque chose qui peut fonctionner de manière autonome et faire une grande partie du travail à votre place.

Animateur : Pour moi, c'est AGI. Il s'agit du niveau de remplacement des employés.

SA : Mais que se passerait-il s'il n'était bon que pour certains types de tâches et pas pour d'autres ? Je veux dire, certains employés sont comme ça aussi.

Animateur : Oui, j'y pense parce que c'est une redéfinition complète. On pensait autrefois que l'AGI était tout-puissant, mais nous avons maintenant l'ASI. ASI, super intelligence. Pour moi, c'est un problème de terminologie. ASI, oui, peut faire n’importe quel travail que nous lui confions. Si j'obtiens une IA qui fait un travail spécifique, comme la programmation, ou autre, et qu'elle le fait de manière cohérente, je peux lui donner un objectif et elle peut atteindre cet objectif en déterminant les étapes intermédiaires. Pour moi, il s’agit d’un changement de paradigme clair par rapport à la situation actuelle, et nous devons encore le guider dans une large mesure maintenant.

SA : Si nous avions un excellent agent de programmation autonome, diriez-vous : « OpenAI l'a fait, ils ont implémenté l'AGI » ?

Hôte : Oui. C'est ainsi que je le définis maintenant. Je suis d’accord, c’est presque une dilution de ce qu’était l’AGI. Mais j'ai juste utilisé ASI au lieu d'AGI.

SA : Pouvons-nous avoir une petite étoile dorée de Ben Thompson à mettre sur notre mur ?

Animateur : (riant) Bien sûr, voilà. Je vais vous donner mon stylo circuit.

SA : Super.

Animateur : Vous parliez à vos collègues de ces laboratoires de ce que vous voyiez et du fait que personne n'était préparé, et il y avait toutes sortes de tweets qui excitaient les gens, et vous avez laissé quelques indices sur ce podcast. Très excitant. Mais vous en parlez depuis longtemps. Vous regardez le monde et, à certains égards, il est toujours le même. Votre lancement n’a-t-il pas répondu à vos attentes ou avez-vous été surpris par la capacité de l’humanité à absorber le changement ?

SA : Plus de ce dernier. Je pense qu'il y a eu des moments où nous avons fait quelque chose qui a vraiment choqué le monde et les gens se disaient : "C'est… c'est fou." Puis, deux semaines plus tard, les gens demandent : « Où est la prochaine version ?

Modérateur : Eh bien, je veux dire, c'était aussi votre stratégie initiale, car ChatGPT a pris tout le monde par surprise. Et puis ChatGPT-4 sort peu de temps après, et les gens disent : « Oh, mon Dieu. À quelle vitesse allons-nous ?

SA : Je pense que nous avons sorti des trucs incroyables, et je pense que la capacité des gens à s'adapter et à vouloir simplement plus, mieux, plus vite et moins cher est en fait une grande qualité de l'être humain. Je pense donc que nous avons dépassé nos attentes et que les gens ne font que mettre à jour leurs perceptions.

Animateur : Compte tenu de cela, cela vous rend-il plus optimiste ou pessimiste ? Voyez-vous ce fossé qui, je pense, va se produire, entre les personnes qui ont « agence » (qui est un autre sens de « agence », mais regardez où nous allons. Nous devons inventer plus de mots. Nous pouvons laisser ChatGPT « illusion » un pour nous) et ceux qui vont utiliser l'API ?

L'idée générale de Microsoft Copilot est que vous avez un assistant avec vous et qu'il y a beaucoup de discours sur le sujet : "Oh, cela ne va pas remplacer les emplois, cela va rendre les gens plus productifs." Je conviens que ce sera le cas de certaines personnes qui l'utilisent activement. Mais vous regardez, disons, l’histoire du PC. La première vague d’utilisateurs de PC était composée de personnes qui souhaitaient réellement utiliser un PC. Beaucoup de gens ne veulent pas utiliser de PC. Ils mettent un PC sur la table et doivent l’utiliser pour accomplir une tâche spécifique. En réalité, vous avez besoin d’un changement de génération pour amener les gens à utiliser les PC par défaut. L’IA, est-ce le vrai facteur limitant ?

SA : Peut-être, mais ce n'est pas grave. Comme vous l’avez mentionné, cela est commun à d’autres changements technologiques.

Hôte : Mais si vous revenez à l'exemple du PC, en réalité, la première vague informatique a été le mainframe, qui a anéanti tout le back-office. Parce qu’en réalité, il s’avère que la première vague était celle du remplacement des emplois car elle était plus facile à mettre en œuvre de haut en bas.

SA : Mon intuition est que ce ne sera pas exactement la même chose cette fois. Mais je pense que c'est toujours très difficile à prévoir.

Animateur : Quelle est votre intuition ?

SA : Cela va se répercuter sur l’économie, en cannibalisant les choses progressivement, puis de plus en plus vite.

Modérateur : Vous évoquez souvent les avancées scientifiques comme raison d’investir dans l’IA. Dwarkesh Patel a récemment souligné qu'il n'y avait pas encore eu de percée scientifique. Pourquoi pas? L’IA peut-elle réellement créer ou découvrir de nouvelles choses ? Ou est-ce que le vrai problème est de savoir si nous nous appuyons trop sur des modèles qui ne sont pas vraiment bons ?

SA : Oui, je pense que le modèle n’est pas assez intelligent. Je ne sais pas. Vous entendez les utilisateurs de Deep Research dire : « Eh bien, le modèle n'a pas découvert de nouvelles sciences à lui seul, mais il m'a aidé à découvrir de nouvelles sciences plus rapidement. » Pour moi, c'est presque aussi bien.

Modérateur : Pensez-vous que l'architecture basée sur Transformer peut réellement créer de nouvelles choses, ou est-ce qu'elle produit simplement du contenu de niveau intermédiaire sur Internet ?

SA : Oui.

Animateur : Eh bien, où sera le point de rupture ?

SA : Je veux dire, je pense que nous sommes sur la bonne voie. Je pense que nous devons simplement continuer à faire ce que nous faisons. Je pense que nous sommes sur cette voie.

Animateur : Je veux dire, est-ce le test ultime de Dieu ?

SA : Comment dis-tu ça ?

Animateur : Les humains sont-ils naturellement créatifs, ou la créativité est-elle simplement une recombinaison des connaissances de différentes manières ?

SA : L'un de mes livres préférés est The Beginning of Infinity de David Deutsch. Il y a des pages au début de ce livre qui décrivent si brillamment que la créativité consiste à prendre quelque chose que vous avez vu auparavant et à le modifier un peu. Ensuite, si quelque chose de positif en ressort, quelqu’un d’autre le bricolera un peu, et quelqu’un d’autre le bricolera un peu plus. Je crois en quelque sorte cela. Si tel est le cas, alors l'IA est douée pour modifier légèrement les choses.

Modérateur : Dans quelle mesure pouvez-vous croire que ce point de vue est basé sur vos croyances de longue date plutôt que sur des choses que vous observez ? Parce que je pense que c'est une question très intéressante — je ne veux pas entrer dans une question trop métaphysique ou, comme je l'ai dit, presque théologique — mais il semble y avoir une situation où les hypothèses sous-jacentes d'une personne influencent ses hypothèses sur la possibilité de l'IA. Et puis la plupart des habitants de la Silicon Valley sont des matérialistes, des athées, ou peu importe comment vous voulez les appeler. Alors, bien sûr, nous allons le découvrir, ce n'est qu'une fonction biologique et nous pouvons la reproduire dans l'ordinateur. S’il s’avérait que nous n’avons jamais vraiment créé quelque chose de nouveau, mais que nous avons plutôt amélioré les humains pour créer de nouvelles choses, cela changerait-il votre système de croyance fondamental ?

SA : Cela faisait définitivement partie de mon ancien système de croyances fondamentales. Rien de tout cela n’est nouveau. Mais non, je suppose que nous n’avons tout simplement pas encore trouvé la bonne architecture d’IA, et nous le ferons à un moment donné dans le futur.

Conseils de carrière pour les jeunes à l'ère de l'IA

Modérateur : La dernière question s'adresse au nom de ma fille, qui a obtenu son diplôme d'études secondaires cette année. Quels conseils de carrière donneriez-vous aux diplômés du secondaire ?

SA : La suggestion la plus évidente et la plus concrète est de maîtriser les outils d’IA. Comme lorsque j’ai obtenu mon diplôme d’études secondaires, le conseil le plus évident et le plus concret était de maîtriser la programmation. Ceci est une suggestion pour la nouvelle version.

Le conseil plus large est que je pense que les gens peuvent développer la résilience et l’adaptabilité, ainsi que la capacité de comprendre ce que veulent les autres et comment leur être utile. Je vais les pratiquer. Par exemple, peu importe ce que vous étudiez, les détails spécifiques peuvent ne pas être si importants.

Peut-être qu’ils n’ont jamais eu d’importance. La chose la plus précieuse que j’ai apprise à l’école était la « méta-capacité » d’apprentissage, plutôt que n’importe quelle chose spécifique que j’ai apprise. Ainsi, peu importe les choses spécifiques que vous souhaitez apprendre, acquérez ces compétences générales qui semblent importantes à mesure que le monde traverse cette transformation.

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo