La dernière conférence de 10 000 mots de Sam Altman : La forme matérielle idéale est un compagnon d’IA, et l’impact sur l’emploi n’est pas si effrayant
Aujourd'hui, Sam Altman a partagé ses prédictions et ses analyses sur le développement de l'IA dans les 5 à 10 prochaines années lors d'une conversation avec son frère Jack Altman. La conversation a abordé des sujets tels que la recherche en IA, les robots humanoïdes, la superintelligence, les équipements OpenAI, la chaîne d'approvisionnement et les réactions au débauchage de Meta.
Cette conversation entre les frères était détendue, chaleureuse et perspicace, et elle nous a également permis de voir une autre facette de Sam Altman au-delà du « mode PDG ».
Points de discussion :
L'IA n'est pas seulement un « assistant de recherche scientifique » et un outil d'efficacité, mais peut également découvrir de nouvelles sciences de manière autonome :
L'amélioration des capacités de raisonnement a progressivement permis à l'IA de mener des réflexions complexes dans des domaines professionnels comme la médecine, et les scientifiques ont amélioré l'efficacité de leurs recherches grâce à l'IA. Sam Altman estime que d'ici cinq à dix ans, l'IA disposera de capacités de recherche scientifique plus autonomes et permettra même de découvrir de nouvelles sciences.
Les robots humanoïdes présentent des défis techniques, mais l’avenir est optimiste :
Bien que l'IA ait réalisé des progrès dans le domaine de la manipulation physique, des difficultés techniques subsistent dans la conception mécanique de véritables robots humanoïdes. Altman se montre toutefois optimiste à ce sujet. Il estime que l'apparition de robots capables de se déplacer librement et d'effectuer des tâches dans le monde réel permettra de ressentir un réel « impact futur ».
À l’ère de la superintelligence, les capacités d’adaptation humaines dépasseront l’imagination :
Les humains ont la capacité de construire des systèmes super-intelligents extrêmement puissants, mais d'ici là, le choc technologique sur la société pourrait ne pas être aussi important qu'on l'imaginait, et les humains s'adapteront rapidement. Parallèlement, Altman estime que nous n'avons pas à nous inquiéter outre mesure de la menace que représente l'IA pour l'emploi humain, car les humains s'adapteront et créeront rapidement de nouveaux emplois.
Le « compagnon IA » omniprésent est la forme de produit idéale d'OpenAI
Altman a décrit le produit ultime qu'OpenAI créera pour les consommateurs : le « compagnon d'IA ». Comparée aux appareils informatiques traditionnels, l'IA du futur pourrait s'intégrer à la vie quotidienne grâce à des dispositifs plus intuitifs.
Construire une « usine d’IA » et améliorer la chaîne d’approvisionnement sont les clés de l’avenir :
L'IA deviendra une technologie essentielle dans tous les secteurs et pourrait s'étendre à des domaines tels que l'exploration spatiale. Les enjeux énergétiques pourraient être résolus grâce à de nouvelles technologies, comme la fission nucléaire, qui soutiennent l'IA.
Mon avis sur Meta :
Altman a exprimé son respect pour l'attitude compétitive de Meta dans le domaine de l'IA, mais il pensait qu'OpenAI avait un plus grand potentiel d'innovation et que sa culture d'équipe se concentrait davantage sur l'innovation que Meta plutôt que sur la copie des résultats existants.
Vidéo originale 
: https://www.youtube.com/watch?v=mZUG0pr5hBo
Ce qui suit est la transcription de la conversation, avec de légers ajustements apportés à la traduction.
Plus qu’un simple « assistant de recherche scientifique », l’IA peut réellement découvrir de nouvelles sciences
Jack Altman : Je voudrais commencer par l'avenir de l'IA, et plus particulièrement à moyen terme. Le court terme ne m'intéresse pas beaucoup, et personne ne peut prédire le long terme, mais la période de cinq à dix ans est celle qui mérite le plus d'être abordée. Je vous invite à faire des prédictions concrètes et audacieuses.
Commençons par le logiciel. Actuellement, le scénario d'application le plus efficace est la programmation, ou le chat et la programmation. Et ensuite ? Après « chat et programmation », quels nouveaux scénarios d'application de l'IA verront-ils le jour, selon vous ?
Sam Altman : Je pense que de nombreux nouveaux produits exceptionnels verront le jour, comme des expériences sociales vraiment originales et des processus de collaboration basés sur l'IA similaires à Google Docs, mais beaucoup plus efficaces. On verra apparaître des « employés virtuels ».
Mais je pense que l'impact le plus important des cinq à dix prochaines années sera la capacité de l'IA à découvrir de nouvelles sciences. Cela peut paraître audacieux, mais je pense que c'est vrai. Si c'est vrai, son impact à long terme dépassera de loin tout le reste.
Jack Altman : Pourquoi pensez-vous que l’IA peut découvrir de nouvelles sciences ?
Sam Altman : Je pense que nous avons réalisé une avancée majeure dans la « capacité de raisonnement » du modèle. Il reste encore beaucoup à faire, mais nous avons une idée approximative de la direction à prendre. o3 est déjà très intelligent, et on entend souvent dire : « Waouh, c'est comme un bon doctorat ! »
Jack Altman : Qu’entendez-vous exactement par « percée dans la capacité de raisonnement » ?
Sam Altman : Autrement dit, ces modèles peuvent désormais effectuer le type de raisonnement attendu d'un doctorant dans un domaine particulier. D'une certaine manière, tout comme nous avons vu l'IA atteindre le niveau des meilleurs programmeurs mondiaux, obtenir des résultats élevés aux concours de mathématiques les plus difficiles, ou résoudre des problèmes que seuls les docteurs experts dans le domaine peuvent résoudre.
Nous ne sommes peut-être pas très surpris, ce qui est assez fou, mais c'est vraiment remarquable. L'année dernière, la capacité de raisonnement des modèles a considérablement progressé.
Jack Altman : Êtes-vous surpris par cela ?
Sam Altman : Oui.
Jack Altman : Vous pensiez au départ qu’il s’agissait simplement de la « prochaine mise à niveau du jeton » ?
Sam Altman : Je pensais qu’il nous faudrait un peu de temps pour arriver là où nous en sommes aujourd’hui, mais les progrès au cours de l’année écoulée ont été beaucoup plus rapides que prévu.
Jack Altman : Le processus de mise en œuvre de cette « capacité de raisonnement » est-il celui que vous aviez initialement envisagé ?
Sam Altman : Comme cela s'est souvent produit dans l'histoire d'OpenAI, les idées les plus stupides fonctionnent souvent. Cela ne devrait plus m'étonner, mais ça l'est encore quand cela arrive.
Jack Altman : Pensez-vous donc que le pouvoir du raisonnement permettra à la science de progresser plus rapidement, ou conduira à des découvertes complètement nouvelles, ou les deux ?
Sam Altman : Je pense que c'est les deux.
Certains scientifiques affirment déjà qu'ils sont plus efficaces grâce à l'IA. Bien que nous ne soyons pas encore en mesure de permettre à l'IA de mener des recherches scientifiques de manière totalement autonome, si un scientifique humain pouvait être trois fois plus efficace grâce à l'O3, ce serait un changement considérable.
À mesure que la technologie se développe, l’IA acquerra progressivement un certain degré de capacités de recherche scientifique indépendantes et sera même capable de découvrir de nouvelles lois de la physique.
Jack Altman : Est-ce que cela se produit maintenant dans un état assisté de type copilote ?
Sam Altman : Oui, on n'en est pas encore au point où il suffit de dire à ChatGPT « Aidez-moi à découvrir de nouvelles physiques » et il le fera. C'est plutôt un rôle secondaire, comme celui de « copilote ».
Mais j'ai entendu certains biologistes dire de manière informelle que, par exemple, l'IA a eu une idée très prometteuse, puis l'a développée davantage, et cela a réellement conduit à une avancée fondamentale.
Jack Altman : Pensez-vous qu’il serait plus facile de laisser l’IA vous aider à construire une entreprise de commerce électronique entière, ou de la laisser mener à bien une recherche scientifique difficile ?
Sam Altman : J’y ai réfléchi. Par exemple, si vous construisez un accélérateur de particules à 100 milliards de dollars et que vous le laissez prendre des décisions, analyser des données, nous indiquer les expériences à réaliser, puis nous les exécutons, c’est une solution. Une autre solution consiste à investir le même montant pour construire une infrastructure d’IA capable d’interagir avec des systèmes économiques réels.
Quelle direction est la plus susceptible de permettre à l'IA d'obtenir des résultats révolutionnaires ? Je pense que la physique est un problème plus « propre ». Si l'on peut obtenir de nouvelles données de physique des hautes énergies et doter l'IA de capacités expérimentales, le problème sera plus clair et plus maîtrisable.
J'ai entendu certains dire que le premier domaine où l'IA fera des découvertes scientifiques par elle-même sera l'astrophysique. Je ne suis pas sûr que ce soit exact, mais la raison est qu'il existe une tonne de données et que nous manquons de docteurs pour les analyser.
Ce n’est peut-être pas si difficile de découvrir de nouvelles choses, mais je ne peux pas le dire avec certitude.
Jack Altman : D’accord, la science va s’améliorer, et la programmation et les capacités conversationnelles vont continuer à s’améliorer. Qu’en est-il du côté commercial ? Est-il possible qu’une IA crée une entreprise entière pour vous avec une simple demande, du genre : « Je veux créer cette entreprise », et qu’elle s’exécute ? Est-ce vraiment possible ?
Sam Altman : Certaines personnes le font désormais à petite échelle. On entend parler de personnes qui utilisent l'IA pour réaliser des études de marché, découvrir un nouveau produit, puis contacter un fabricant par e-mail pour le fabriquer, le vendre sur Amazon et diffuser des publicités.
Ces personnes ont vraiment trouvé le moyen de lancer une petite entreprise avec l'IA, de manière très « locale », et ça marche vraiment. Il y a donc effectivement des gens qui progressent petit à petit.
Du cerveau au corps, l’avenir des robots humanoïdes est là
Jack Altman : Qu'en est-il des « actions physiques » dans le monde réel ? Par exemple, déplacer des objets. Vous l'avez très bien expliqué en termes de logiciel, et je vous crois en science, mais qu'en est-il des opérations physiques dans le monde réel ?
Sam Altman : Nous sommes un peu en retard dans ce domaine, certes. Mais je pense que nous y arriverons un jour.
Par exemple, nous disposons désormais de nouvelles technologies qui pourraient permettre la conduite autonome sur des voitures standard, ce qui est bien plus performant que toutes les méthodes actuelles. Même si ce n'est peut-être pas le « robot humanoïde » dont vous avez parlé, si notre technologie d'IA peut réellement se conduire elle-même, ce sera très impressionnant.
Bien sûr, les robots humanoïdes restent l’objectif ultime, et cela m’importe profondément, et je crois que nous y parviendrons un jour, mais cela a toujours été un problème d’ingénierie mécanique très difficile.
Jack Altman : Donc la difficulté est plus dans ce domaine ?
Sam Altman : Pas vraiment. Les deux sont difficiles. Même si nous avons un cerveau parfait, je ne pense pas que nous ayons encore un corps parfait.
OpenAI travaillait sur un projet de bras robotisé à ses débuts. La difficulté ne résidait pas dans les « difficultés techniques » que nous avions imaginées, mais dans le fait que l'équipement tombait constamment en panne et que le simulateur manquait toujours de précision.
Mais vous savez, nous allons trouver une solution, et je crois que dans les cinq à dix prochaines années, nous aurons des robots humanoïdes vraiment incroyables, qui peuvent se promener dans les rues et faire toutes sortes de choses.
Jack Altman : Oui, je pense que c'est à ce moment-là que le saut technologique commencera vraiment.
Sam Altman : Je le pense aussi. Non seulement cela ouvrira de nombreuses possibilités dans le monde réel, mais je pense que l'expérience sera très « étrange ». Nous sommes habitués à de nombreuses technologies. Par exemple, ce que ChatGPT peut faire aujourd'hui aurait semblé miraculeux il y a cinq ans, mais nous nous y sommes adaptés.
Mais si vous marchez dans la rue et que vous voyez que la moitié d'entre eux sont des robots en action, vous y habituerez-vous immédiatement ? Je n'en suis pas sûr, peut-être que vous y arriverez un jour, mais ce sera certainement un grand changement.
Jack Altman : J’avais l’impression qu’une nouvelle espèce était apparue et commençait à nous remplacer.
Sam Altman : Oui, je pense que le sentiment à ce moment-là… ne sera peut-être pas vraiment celui d'une « nouvelle espèce » ou d'un « remplacement » des humains, mais cela donnera certainement aux gens le sentiment que « le futur est arrivé ». Et aujourd'hui, même avec une technologie aussi puissante que ChatGPT, cela ne donne toujours pas cette impression intuitive que « le futur est arrivé ».
Je pense que si nous parvenons à inventer de nouveaux appareils informatiques, cela pourrait apporter ce sentiment d'avenir. Bien que ChatGPT et ces agents de code de nouvelle génération soient effectivement exceptionnels, ils restent limités à la forme traditionnelle d'« appareil informatique ».
Jack Altman : Oui, ils sont toujours piégés dans l'ordinateur.
Sam Altman : Oui, c'est intéressant. L'IA ne peut actuellement effectuer des tâches que sur ordinateur. Mais je me demande quelle part de la valeur économique mondiale est réellement constituée de travail cognitif, c'est-à-dire de choses réalisables devant un ordinateur ? Environ la moitié.
Jack Altman : J'allais dire environ un quart.
Sam Altman : Je n'en suis pas sûr, mais c'est certainement un pourcentage important.
Jack Altman : Oui, une fois que nous aurons des systèmes intelligents dotés de capacités physiques, le risque sera beaucoup plus élevé car ils seront beaucoup plus puissants que les humains.
Sam Altman : Je ne suis pas sûr que ce soit « beaucoup plus risqué ». Par exemple, créer des armes biologiques ou paralyser le réseau électrique d'un pays ne nécessite pas d'intelligence « physique » et peut causer d'importants dégâts. De ce point de vue, ce n'est donc pas nécessairement plus dangereux.
Au contraire, il existe des risques plus « absurdes ». Par exemple, je craindrais qu'un robot humanoïde renverse accidentellement mon enfant en se promenant, à moins que je ne lui fasse vraiment confiance.
À l’ère de la super intelligence, les gens s’adapteront rapidement et créeront de « nouveaux rôles »
Jack Altman : Imaginons que nous nous retrouvions à nouveau dans dix ans. Nous nous demanderons : l'IA a-t-elle atteint nos prévisions initiales ? Quels sont les indicateurs attendus ? Par exemple, y a-t-il eu un point d'inflexion clair dans la courbe de croissance du PIB ? L'espérance de vie a-t-elle augmenté ? La pauvreté a-t-elle diminué ? Ou s'agira-t-il d'une situation complètement différente ?
Sam Altman : Chaque année, du moins jusqu’à l’année dernière, je disais : « Je pense que l’IA va faire beaucoup de chemin, mais nous avons encore beaucoup de problèmes difficiles à résoudre. »
Mais aujourd'hui, je suis plus confiant que jamais quant à l'avenir de l'IA. J'ai vraiment le sentiment que nous avons désormais une idée générale de la manière de construire des systèmes d'IA très puissants et performants.
Si le résultat final n’apporte pas les changements spectaculaires que nous attendons, je pense que nous avons peut-être construit une superintelligence, mais cela n’a pas rendu le monde meilleur, ni eu l’impact énorme que nous avions imaginé – ce qui semble ridicule, mais cela pourrait arriver.
Par exemple, si je vous disais en 2020 : « Nous allons créer un outil comme ChatGPT, aussi intelligent qu’un doctorant dans la plupart des domaines, nous allons le lancer et une grande partie du monde va l’utiliser beaucoup. » Vous me croiriez peut-être, peut-être pas.
Mais si vous croyez que ce scénario se produit réellement, vous vous attendez probablement aussi à ce que : « Dans ce cas, le monde sera assurément très différent. » Or, il semble aujourd'hui que les changements mondiaux ne soient pas si radicaux.
Jack Altman : C’est vrai.
Sam Altman : Nous disposons donc actuellement d’une technologie assez étonnante.
Jack Altman : Oui, tout comme le test de Turing, tout le monde s'en inquiétait beaucoup, mais quand on en est arrivé là, personne ne s'en est vraiment soucié. Je ne sais pas pourquoi.
Sam Altman : Oui, ou même si vous avez ce système qui fait des choses incroyables pour vous, mais votre style de vie est en fait le même qu'il y a deux ans, et votre façon de travailler est à peu près la même.
Jack Altman : Pensez-vous qu'il soit possible que nous ayons une superintelligence, peut-être avec un QI de 400, mais que nous, les humains, vivions toujours de la même manière qu'avant ?
Sam Altman : Je pense que c’est tout à fait possible. Par exemple, si cela nous permet de découvrir de nouvelles sciences, la société finira par s’adapter à ce changement, mais le processus pourrait être très lent.
Jack Altman : Ce qui est intéressant, c’est que si cette superintelligence se manifeste comme un copilote, alors le monde extérieur pourrait encore donner du crédit aux scientifiques de ce laboratoire plutôt qu’à l’entité intelligente « 400 QI » qui se cache derrière.
Sam Altman : Je pense que cela est probable. Quelle que soit la situation, l’instinct humain nous pousse à nous soucier davantage de la « personne » elle-même.
Lorsque nous racontons des histoires, nous avons besoin de la participation des « personnes ». Nous voulons dire : « Cette personne a fait quelque chose », « elle a pris une certaine décision », « elle a commis une certaine erreur » ou « elle a vécu quelque chose ». Nous sommes nés avec ce besoin narratif.
Jack Altman : C'est l'une des raisons pour lesquelles j'ai été surpris. J'aurais pensé que si nous avions un robot humanoïde à l'apparence et aux mouvements réalistes, nous pourrions commencer à projeter sur lui ces émotions « humaines ».
Sam Altman : Peut-être avez-vous raison, et nous le découvrirons. Peut-être que j’ai tort. Je crois aussi qu’à mesure que ces robots s’incarneront de plus en plus, notre relation avec eux deviendra plus étroite qu’elle ne l’est aujourd’hui.
Mais je pense que nous sommes instinctivement très soucieux de nos semblables, et cette tendance est peut-être profondément ancrée dans nos instincts biologiques. Si vous savez que ce n'est qu'un robot, aussi humain soit-il par ailleurs, vous ne vous en souciez peut-être pas vraiment. Bien sûr, ce n'est qu'une hypothèse.
Jack Altman : Le raisonnement fait partie de l’intelligence, et il semble y avoir une avancée majeure. Existe-t-il d’autres sujets similaires liés aux « capacités clés », comme « l’autonomie » ou « l’orientation vers un objectif » ? Est-ce une des orientations de recherche ?
Sam Altman : Je pense que vous parlez de la capacité d'un système à maintenir un objectif sur la durée et à franchir de nombreuses étapes complexes. Si c'est ce que vous voulez dire, alors je pense que c'est une orientation importante.
Jack Altman : Oui, c'est exactement ce que je voulais dire.
Sam Altman : Oui, c’est effectivement l’une des directions que nous étudions actuellement.
Jack Altman : Que pensez-vous de l'évolution future du développement technologique ? Quels sont, selon vous, des tendances irréversibles ? Quels sont les aspects dont vous ne savez pas encore précisément comment ils évolueront ?
Sam Altman : Je pense que nous allons certainement construire des modèles très intelligents et très puissants qui peuvent découvrir de nouvelles idées importantes et automatiser beaucoup de travail, mais en même temps, je n'ai aucune idée de ce à quoi ressemblerait la société si nous faisions cela.
Je m'intéresse particulièrement à la question des capacités des modèles, mais je pense désormais que davantage de personnes devraient commencer à se demander : comment garantir que la société puisse réellement en bénéficier ? Ces questions deviennent de plus en plus difficiles à répondre et de plus en plus floues.
Autrement dit, il me semble insensé que nous puissions résoudre le problème de la superintelligence, mais que la société soit encore un désastre. Cela me met un peu mal à l'aise.
Jack Altman : Oui, parfois, je ne comprends pas pourquoi les gens ne réagissent pas à ces affirmations. Est-ce parce qu'ils y croient à moitié ? C'est peut-être une des raisons.
Mais je suis d'accord avec vous. L'histoire de nombreuses technologies est la suivante : lorsqu'elles sont proposées pour la première fois, les gens n'y croient pas, mais une fois mises en œuvre, on s'y habitue rapidement. Je ne peux donc pas vraiment dire ce que tout cela signifie.
Sam Altman : J'ai le sentiment que nos prédictions technologiques ont été très justes. Mais étrangement, lorsque ces prédictions se réalisent, la société n'a pas autant évolué que je l'espérais. Mais au final, ce n'est pas forcément une mauvaise chose.
Jack Altman : L’un des impacts les plus évidents à court terme est probablement l’emploi. Inutile de croire à un avenir fulgurant : des emplois comme celui du service client connaissent déjà des changements significatifs.
Sam Altman : Oui, mon point de vue est le suivant : beaucoup d’emplois vont disparaître et beaucoup d’autres vont changer radicalement.
Mais les humains ont toujours été très doués pour trouver de nouvelles occupations, qu'il s'agisse de gagner sa vie, de concourir pour un statut social ou d'apporter de la valeur aux autres. Je ne pense pas que cette capacité à créer de « nouveaux rôles » s'épuisera un jour.
Bien sûr, du point de vue d’aujourd’hui, ces personnages peuvent devenir de plus en plus « ridicules » à l’avenir.
Par exemple, il n’y a pas si longtemps, être podcasteur n’était pas vraiment un « vrai travail », mais vous avez trouvé un moyen de le monétiser, vous avez fait un excellent travail et tout le monde était content pour vous – et vous l’étiez aussi.
Mais si un « agriculteur qui vit de l'agriculture » regarde tout cela, il pourrait se demander : « Quel genre de travail est-ce ? N'est-ce pas juste un jeu pour se divertir ? »
Jack Altman : Je pense qu'ils pourraient s'abonner au podcast.
Sam Altman : Je parie qu’ils s’abonneront.
Jack Altman : Ils vont adorer. Mais je pense que ça va être un gros problème à court terme. À long terme, je ne sais pas.
Une chose m'intrigue : autrefois, les gens vivaient de l'agriculture, et beaucoup de nos activités actuelles n'avaient aucun sens à l'époque. Maintenant que la société a tellement changé, la situation sera-t-elle différente ? Si les ressources sont vraiment abondantes, arrivera-t-il un moment où les gens cesseront de créer de nouveaux emplois ?
Sam Altman : Je pense que la perspective relative est importante ici. Selon nous, les gens du futur pourraient effectivement bénéficier de beaucoup de temps libre.
Jack Altman : En fait, nous faisons déjà beaucoup de « détente » maintenant.
Sam Altman : Regardez-vous porter ce magnifique pull en cachemire à deux mille dollars.
Jack Altman : C'est juste un pull.
Sam Altman : Haha, je pense que la relativité est vraiment importante. En ce moment, notre travail nous semble essentiel, stressant et épanouissant. Mais peut-être qu'à l'avenir, nous nous contenterons tous de créer de meilleurs divertissements pour les autres. C'est peut-être ce que nous faisons, dans une certaine mesure, en ce moment.
Un « compagnon IA » qui s'intègre à la vie pourrait être la forme de produit idéale d'OpenAI
Jack Altman : Parlons d'OpenAI. OpenAI est déjà orientée client, et propose bien sûr également un modèle B2B pour les entreprises, ainsi que des projets matériels en collaboration avec Jony Ive. De nombreuses perspectives se dessinent progressivement.
Pouvez-vous nous parler de ce à quoi pourrait ressembler ce « système complet », ou du moins de ce à quoi il pourrait ressembler à un moment donné ?
Sam Altman : Je pense que les consommateurs voudront finalement que nous fournissions ce qui est, faute d’un meilleur terme, un « compagnon d’IA ».
Il existe dans l'« espace virtuel » et les aide de multiples façons grâce à diverses interfaces et produits. Il vous comprendra progressivement, vous, vos objectifs, vos objectifs et vos diverses informations.
Parfois, vous interagirez avec lui en tapant dans ChatGPT, parfois vous pourrez utiliser une version plus orientée divertissement, parfois vous l'utiliserez dans d'autres services intégrés à notre plateforme, et parfois vous y accéderez via nos nouveaux appareils.
Quelle que soit sa forme, cette « existence » vous aidera à accomplir ce que vous voulez accomplir : parfois elle vous poussera activement du contenu, parfois vous poserez des questions activement, et parfois elle observera et apprendra simplement en silence afin de faire mieux à l'avenir.
En fin de compte, cela donne le sentiment de : « C'est mon… » Nous n'avons pas encore de mot tout à fait exact pour le décrire, « compagnon IA » est juste le terme le plus proche pour le moment.
Jack Altman : Pensez-vous que le format informatique que nous utilisons actuellement est en réalité le mauvais format ?
Sam Altman : Le mot « mauvais » est peut-être un peu trop absolu, mais je pense que la forme actuelle n’est pas la solution optimale .
En réalité, du point de vue de l'évolution des formes, il n'y a eu que deux changements véritablement importants dans l'histoire du développement informatique. Bien sûr, il y a eu quelques changements au début, mais nous n'y avons pas prêté attention à l'époque.
À l'époque dont nous nous souvenons, il y a eu deux changements majeurs : l'un était celui des ordinateurs comme ceux que nous utilisons aujourd'hui – clavier, souris, écran, très puissants et largement utilisés ; l'autre était celui des appareils à écran tactile, le genre de téléphones portables et de tablettes que nous transportons avec nous.
Aucune de ces deux formes d'IA n'était présente à sa naissance ; l'expérience utilisateur ne pouvait donc être construite qu'en fonction de la technologie de l'époque et en s'appuyant sur une logique d'interaction différente. Aujourd'hui, nous disposons de cette nouvelle technologie, qui se rapproche peut-être davantage de l'appareil informatique idéal de la science-fiction.
Jack Altman : C'est-à-dire que le même agent peut être utilisé de manière complètement différente sous une forme complètement nouvelle.
Sam Altman : Exactement, et le format de l’appareil est vraiment important.
Jack Altman : Comme si ça pouvait toujours être avec toi.
Sam Altman : Oui, c’est l’une des raisons pour lesquelles c’est important. Si cet appareil peut vous suivre partout, qu’il est équipé de tous ces capteurs, qu’il comprend vraiment ce qui se passe autour de vous et qu’il peut suivre toutes ces informations, et qu’on peut très facilement lui demander d’effectuer des tâches complexes par une simple commande, alors on peut imaginer un format d’appareil complètement différent.
Jack Altman : À quels autres éléments réfléchissez-vous actuellement ? Par exemple, les consommateurs utilisent les fonctionnalités de chat, les startups utilisent beaucoup les API, et les projets d'appareils sur lesquels vous travaillez. Par ailleurs, quels sont les « piliers clés » auxquels vous réfléchissez ?
Sam Altman : Je pense que la chose la plus importante que le monde n’a pas encore vraiment réalisée est l’importance de l’IA en tant que « plateforme » – ce n’est pas seulement quelque chose à laquelle on se connecte, mais elle peut également être intégrée dans d’autres systèmes partout dans le monde.
Par exemple, lorsque vous êtes en voiture ou que vous utilisez d'autres sites web ou services, l'expérience peut être fluide. Cette « cohérence continue » deviendra essentielle.
De plus, nous avons la possibilité de créer de nouvelles choses, comme de nouveaux outils de productivité et de nouvelles façons de se divertir socialement.
Mais je pense que l’omniprésence de « l’ubiquité » sera l’une des caractéristiques principales de cette plateforme.
OpenAI pourrait-il entrer dans l'espace ? La clé est de construire une chaîne d'approvisionnement idéale, une « usine d'IA ».
Jack Altman : Compte tenu de l'impact considérable des technologies intelligentes dans divers domaines, et du fait que l'intelligence elle-même comporte de nombreux sous-modules, il existe de nombreuses « couches » au-dessus de la pile. Vous avez évoqué la question de l'énergie, et vous êtes évidemment très impliqué dans ce domaine. En fait, de nombreuses couches séparent l'intelligence de l'énergie, y compris le matériel, etc.
Alors, selon vous, quelle est l'importance de cette « chaîne technologique » pour OpenAI, et même pour le pays tout entier ? Est-elle essentielle ?
Sam Altman : Je pense que les pays devraient commencer à réfléchir à cette question, ou plutôt, le monde ou les pays devraient réfléchir à ce système à partir de l'ensemble du processus, de « l'électronique » à la requête ChatGPT.
Il existe de nombreux liens entre les deux, et je commence maintenant à appeler cela « l'usine à IA ». Je pense qu'on peut l'appeler « méta-usine », car en théorie, elle peut se répliquer.
Quel que soit le nom qu’on lui donne, la clé est que nous, notre monde entier, devons construire une chaîne d’approvisionnement complète.
Jack Altman : Est-il donc nécessaire qu’OpenAI soit personnellement impliqué dans toute la chaîne ?
Sam Altman : Je pense que l’intégration verticale est bénéfique à certains égards , mais nous ne sommes pas obligés de tout faire nous-mêmes. Si nous sommes certains que tout se déroulera à une échelle suffisamment grande, il n’est pas nécessaire de tout faire. Ainsi, à bien des égards, nous pouvons promouvoir des progrès significatifs grâce à la coopération.
Jack Altman : Cela signifie qu’il n’y a aucun risque de « perdre un lien critique ».
Sam Altman : Oui, exactement.
Jack Altman : En matière d'énergie, allons-nous finir par consommer une quantité énorme d'énergie ? Est-ce la direction ultime ?
Sam Altman : Je l’espère bien. Historiquement, l’un des principaux facteurs d’amélioration de la qualité de vie est l’abondance croissante d’énergie. Je n’ai aucune raison de penser que cette tendance va s’arrêter.
Jack Altman : Êtes-vous préoccupé par le changement climatique ? Pensez-vous que ces problèmes seront résolus tôt ou tard ?
Sam Altman : C'est le cadet de nos soucis. La fission aura lieu, et de nouvelles technologies de fission apparaîtront.
Jack Altman : Vous êtes donc moins confiant à propos de la fusion, ou êtes-vous plus confiant ?
Sam Altman : Je ne dis jamais « sûr à 100 %, mais je peux dire que je suis confiant, très confiant.
Jack Altman : Et ce sera la source de la majeure partie de l’énergie à l’avenir ?
Sam Altman : Je pense que oui. Mais la prochaine génération de technologie de fission est également vraiment incroyable. Je connais une entreprise appelée Oklo, qui fait un excellent travail, tout comme d'autres entreprises, et c'est une avancée majeure.
L'énergie solaire et les systèmes de stockage d'énergie semblent prometteurs, mais j'espère sincèrement que la consommation énergétique de l'humanité dépassera largement celle produite actuellement sur Terre. Même si nous options totalement pour l'énergie de fusion, une fois la consommation énergétique de la Terre décuplée ou centuplée, elle finira par surchauffer à cause de la chaleur résiduelle. Mais la bonne nouvelle, c'est que nous avons le système solaire tout entier pour nous.
Jack Altman : Ne pensez-vous pas que ce dont nous parlons signifie en réalité que l’espace est non seulement très important, mais aussi que notre capacité à aller dans l’espace augmente ?
Sam Altman : Dans l'ensemble, oui. Irons-nous dans l'espace ? Je l'espère. Ce serait dommage si nous n'y allions pas.
Jack Altman : C'est intéressant. Devrais-je créer une entreprise de fusées ? Je t'ai déjà dit que je pensais que tu devrais te lancer dans un projet de startup, et il y a plein de pistes à explorer.
Sam Altman :
J'aime toujours me concentrer sur une seule chose, et je suis assez occupé maintenant avec une famille dont je dois m'occuper.
Réponse au débauchage de Meta : « Meta n’est pas une entreprise douée en innovation »
Jack Altman : Puis-je vous interroger sur Meta ? Leur dynamique et votre relation avec eux ?
Sam Altman : Bien sûr. J’ai entendu dire que Meta nous considère comme son principal concurrent. Je pense qu’il est logique pour eux de continuer à travailler dessus, même si leurs progrès actuels en matière d’IA ne sont peut-être pas aussi bons qu’ils l’espéraient.
Je respecte leur attitude agressive et leur volonté d'essayer de nouvelles approches, et comme c'est rationnel, je m'attends également à ce qu'ils réessayent si cela ne fonctionne pas cette fois.
Je me souviens avoir entendu Zuck dire qu'aux débuts de Facebook, il était logique pour Google de développer des produits sociaux, même si tout le monde chez Facebook savait que cela ne fonctionnerait pas. J'ai le même sentiment aujourd'hui.
Ils ont récemment commencé à faire des offres très élevées à certains membres de notre équipe, comme des primes à la signature de 100 millions de dollars et des salaires annuels encore plus élevés, ce qui est fou.
Mais je suis vraiment heureux que nos meilleurs éléments n'aient pas encore accepté leurs offres. Je pense que si l'on compare les deux voies, on se rendra compte qu'OpenAI a de bien meilleures chances d'atteindre la superintelligence et sera probablement une entreprise plus rentable à long terme.
Je pense que la stratégie consistant à « offrir une rémunération importante et garantie dès le départ » pour convaincre les gens de rejoindre l'entreprise revient à se concentrer sur cela plutôt que sur le travail et la mission en eux-mêmes, ce qui me surprend vraiment. Je ne pense pas que cette approche puisse créer une bonne culture.
Je veux que nous soyons le meilleur endroit au monde pour faire ce genre de recherche, et je pense que nous avons vraiment construit une culture très spéciale pour cela.
Notre système actuel est le suivant : si nous réussissons – et tous les membres de notre équipe de recherche pensent que nous avons de bonnes chances de succès – alors tout le monde sera récompensé financièrement.
Et je pense que notre mécanisme d'incitation actuel est cohérent avec le principe de « mission prioritaire ». Les retombées économiques et tout le reste découlent naturellement de la mission. Un tel mécanisme est sain.
J'apprécie beaucoup de choses chez Meta, mais je ne pense pas que ce soit une entreprise douée en innovation. En revanche, je pense que la particularité d'OpenAI réside dans le fait que nous avons réussi à bâtir une culture axée sur l'innovation.
Ils sont peut-être doués pour « l’innovation reproductible », mais je pense que nous comprenons beaucoup de choses qu’ils ne maîtrisent pas encore, comme ce qu’il faut pour réaliser de véritables avancées technologiques.
Mais pour être honnête, cette expérience a été une sorte de « clarification » pour notre équipe ; elle nous a permis de voir clairement la direction à prendre. Nous leur souhaitons bonne chance.
Jack Altman : Oui, je pense que cela soulève également une question fondamentale : pensez-vous que les avancées en matière d’IA sont suffisamment performantes pour que d’autres réussissent en les « copiant » simplement ? Ou la véritable innovation reste-t-elle à venir ?
Sam Altman : Je ne pense pas que « copier » soit suffisant.
Je vois beaucoup de gens, y compris Meta, dire : « Copions OpenAI. » C'est vraiment la mentalité.
Si vous observez les produits de chat de nombreuses autres entreprises aujourd'hui, ils ressemblent presque exactement à ChatGPT, et reprennent même les erreurs d'interface utilisateur que nous avons commises au début, ce qui est incroyable. Leur objectif de recherche est simplement de rattraper notre niveau actuel.
C'est une leçon que j'ai apprise pendant mon passage chez YC : cette stratégie est fondamentalement inefficace. On se contente de courir après les succès passés de ses concurrents, sans pour autant instaurer une culture d'« innovation continue ». Et une fois dans cet état, il est bien plus difficile d'en sortir qu'on ne le pense.
Jack Altman : Comment parvenez-vous à concilier les deux ? Être à la fois une entreprise hautement commerciale et une entreprise fortement axée sur la recherche ? Il existe peu de précédents réussis pour ce modèle. Je comprends comment vous avez procédé avant la commercialisation, mais maintenant, vous avez à la fois une activité commerciale et une activité de recherche, et cela semble bien fonctionner.
Sam Altman : Nous sommes encore relativement nouveaux en termes de produit, et nous devons continuer à travailler dur pour mériter véritablement l'évaluation de « bon fonctionnement ».
Nous faisons effectivement des progrès et nous améliorons, mais si vous regardez l'histoire de la plupart des entreprises technologiques, elles commencent généralement comme une entreprise orientée produit et bien gérée, puis elles « rattachent » plus tard un département de recherche mal géré.
Nous sommes exactement l’opposé, le seul exemple que je connaisse où l’inverse est vrai : nous avons commencé comme une très bonne organisation de recherche, puis nous nous sommes « attachés » à une division de produits qui au départ ne fonctionnait pas très bien, et qui devient maintenant de plus en plus mature.
Je crois que nous deviendrons un jour une grande entreprise de produits, et je suis très fier des efforts de l'équipe à cet égard, mais regardez, il y a 2,5 ans, nous n'étions qu'un laboratoire de recherche.
Jack Altman : Je n'arrive pas à croire que cela ne fait que deux ans et demi.
Sam Altman : Oui, ça a été très difficile de bâtir cette grande entreprise en deux ans et demi. Ce que tout le monde a accompli est tout simplement incroyable. ChatGPT est sorti le 30 novembre 2023.
Jack Altman : C’est vrai. Et évidemment, il est bien plus facile de constituer un groupe de personnes capables de diriger une entreprise que de trouver un groupe capable de mener des recherches de pointe en IA.
Sam Altman : Mais c'est quand même difficile. La plupart des entreprises mettent bien plus de deux ans et demi pour développer un produit de cette taille.
Jack Altman : Pourquoi pensez-vous que Meta vous considère comme un concurrent si sérieux ? Je comprends qu'ils puissent penser que l'IA est la clé de tout l'avenir, mais est-ce suffisant ?
Sam Altman : C’est probablement une explication suffisante. Un ancien de Meta m’a dit un jour : « À l’extérieur, on voit ChatGPT comme un remplaçant de Google, mais à l’intérieur de Meta, on voit ChatGPT comme un remplaçant de Facebook. »
Jack Altman : Parce que les gens passent désormais beaucoup de temps à lui parler.
Sam Altman : Oui, ils discutent avec ChatGPT comme ils le feraient normalement ailleurs, et ils préfèrent que ce soit ainsi.
Jack Altman : Il s'agit en fait d'une tentative d'attirer l'attention sur des « ressources ».
Sam Altman : Il ne s’agit pas simplement d’une question de « concurrence temporelle ».
Bien sûr, il y a une compétition pour le temps, mais plus important encore, les gens se sentent plus mal dans leur peau lorsqu'ils parcourent les pages en ligne – même si cela peut sembler un peu agréable sur le moment, à long terme, cela vous fait vous sentir de plus en plus mal, surtout de moins en moins satisfait de vous-même.
L'une des choses dont nous sommes particulièrement fiers, c'est que lorsque les gens parlent de ChatGPT, ils disent : « Cela me fait me sentir mieux dans ma peau », cela m'aide à atteindre mes objectifs, cela m'aide vraiment. C'est probablement l'un des commentaires les plus positifs et les plus positifs que j'ai entendus à propos d'OpenAI : quelqu'un a dit : « C'est la seule entreprise technologique que j'ai utilisée qui ne me donne pas l'impression d'être contre moi. »
Google affiche des résultats de recherche terribles et y impose des publicités (même si j'aime Google et ces entreprises, je ne dis pas qu'ils ont forcément tort) ; Meta essaie d'« envahir mon cerveau » et de me faire continuer à faire défiler ; Apple fabrique un téléphone que j'aime, mais il continue d'envoyer des notifications et de me distraire, et je ne peux pas m'arrêter.
ChatGPT me donne l'impression de vouloir simplement m'aider à accomplir ce que je veux. C'est vraiment agréable.
Jack Altman : Est-il possible de créer un « produit social » qui soit à la fois interactif et qui conserve cette énergie et cette expérience positive ?
Sam Altman : Une version qui m'intrigue – même si je ne suis pas encore sûr de ce que cela signifie – est un « flux » qui est vide par défaut et qui ne propose rien de manière active, mais vous pouvez le proposer , par exemple « Je veux me remettre en forme récemment, pouvez-vous me proposer du contenu qui peut m'aider à cela ? » ou « Je veux en savoir plus sur l'actualité, pouvez-vous me donner des informations neutres et non provocatrices ? »
Un tel système ne sera évidemment pas aussi addictif et chronophage que les recommandations algorithmiques actuelles, mais je pense que ce serait une direction très intéressante – une IA véritablement « alignée » qui vous aide à atteindre l'expérience sociale que vous souhaitez vraiment à long terme.
J'ai l'impression de me réveiller chaque matin revigorée, consciente de mes envies, pleine de bonnes intentions et déterminée à affronter la journée. Mais à mesure que la journée avance, le rythme de vie s'emballe. Vers 22 h, je me dis peut-être : « Je n'allais pas boire, je vais juste boire un whisky. » ou « Je n'ai pas envie de regarder TikTok, mais ça devrait aller deux minutes. » Je suis d'accord, il ne faut pas trop se forcer. Mais si je parviens à rester moi-même le matin et si la technologie peut m'aider à réaliser ce que je veux vraiment, alors je pense que tout ira bien.
Sam Altman : OpenAI n'est pas seulement un « travail important » pour moi, mais aussi un « puzzle intéressant »
Jack Altman : J'ai vécu avec toi il y a dix ans. Tu dirigeais encore YC à l'époque. J'avais l'impression que tu avais une grande liberté d'action, que tu pouvais faire ce que tu voulais et que tu n'étais soumis à aucune règle. Mais depuis, surtout ces dernières années, j'ai l'impression que tu n'as plus aucune règle.
Vous travaillez sur Stargate, avec Jony Ive… ce sont des projets très audacieux. Je suis curieux, y a-t-il eu un changement dans votre façon de penser ? Y a-t-il quelque chose qui vous a amené à agir comme vous le faites aujourd'hui ?
Sam Altman : Je pense que ce que nos grands-mères disaient est vrai : « Le meilleur avec l'âge, c'est qu'on se soucie de moins en moins de ce que les autres pensent de nous. » C'est vraiment mon sentiment aujourd'hui. J'ai connu des hauts et des bas, mais c'est vrai que vieillir libère et fait qu'on se soucie moins de ce que les autres pensent de nous. C'est libérateur.
Jack Altman : Y a-t-il encore des choses qui vous inquiètent ? Ou pensez-vous avoir un niveau d'action plus élevé à mettre en œuvre ? Y a-t-il des idées qui vous viennent à l'esprit : « J'aimerais vraiment faire ça, mais pour une raison ou une autre, j'ai mis ça de côté pour le moment » ?
Sam Altman : C’est le deuxième point que je voulais souligner : à mesure qu’OpenAI dispose de ressources et de potentiel croissants, nous pouvons effectivement accomplir toujours plus de choses. Bien sûr, il y a encore beaucoup de choses que je souhaite réaliser, mais que je ne peux pas réaliser actuellement, comme construire une « sphère de Dyson » dans le système solaire et utiliser l’énergie produite par le Soleil pour construire un centre de données mondial géant.
Évidemment, cela n'est pas possible maintenant, et cela pourrait prendre des décennies. Mais globalement, nous avons la capacité de réaliser des projets de plus en plus ambitieux.
Jack Altman : Alors, face à tant de choix, comment faites-vous vos choix ? C'est en fait le problème de la « surcharge de choix ». On peut désormais construire des fusées, des réseaux sociaux, jouer à des robots… on peut faire ce qu'on veut. Alors, comment faire des choix parmi tant d'options ?
Sam Altman : Honnêtement, je ne peux pas le souligner suffisamment : mon temps est complètement consommé et je n'ai pas l'énergie de faire autre chose.
Et je n'avais aucune intention de diriger une seule entreprise, et encore moins plusieurs. Je voulais juste être un investisseur.
Jack Altman : Diriez-vous que dans l’ensemble, vous aimez vraiment votre travail actuel, même s’il a peut-être largement dépassé vos attentes initiales ?
Sam Altman : Je me sens très reconnaissant et très chanceux. Je suis sûr que cette période de ma retraite me manquera et que je me dirai : « Oh, c'est tellement ennuyeux. »
Jack Altman : Et c'était une expérience vraiment cool et importante, n'est-ce pas ?
Sam Altman : Oui, c'est très satisfaisant. J'ai l'impression d'avoir beaucoup de chance de faire ça. J'aime vraiment ça, et j'y prends plaisir la plupart du temps.
Mais honnêtement, cette période a été très intense et un peu bouleversante. J'ai connu plus de hauts et de bas que je ne le pensais.
Jack Altman : Ce n'était pas la voie que vous aviez envisagée à vos débuts. La plupart des gens créent des entreprises de logiciels en pensant qu'elles le seront. Mais je ne pense pas que vous vous attendiez à ce que ce soit le cas.
Sam Altman : C'était censé être mon « travail après la retraite », juste diriger un petit laboratoire de recherche, c'est tout.
Jack Altman : Et dans beaucoup d'univers parallèles, cela n'arriverait même pas, n'est-ce pas ?
Sam Altman : Oui, c’est vrai.
Jack Altman : Peu importe si vous l'aimez ou le temps que vous y consacrez, lorsque vous découvrez cette œuvre, la trouvez-vous « lourde et importante » ou comme un puzzle intéressant et amusant ?
Sam Altman : Je ressens les deux en même temps.
Du point de vue de l’impact social, ou de son impact potentiel, c’est probablement le travail le plus important et le plus influent que j’ai jamais réalisé dans ma vie.
Je ne veux pas paraître trop égocentrique, mais ce travail a peut-être une dimension historique. Je m'en rends compte quand j'ai le temps de me calmer et d'y réfléchir. Mais au quotidien, il s'agit surtout de gérer des choses « insignifiantes », et j'apprécie vraiment ces petites choses. J'aime les gens avec qui je travaille, et c'est aussi un plaisir de travailler avec eux.
Bien sûr, certaines parties étaient stressantes et même douloureuses, mais dans l’ensemble , cela ressemblait plus à un « puzzle intéressant » qu’à un simple « travail important ».
#Bienvenue pour suivre le compte public officiel WeChat d'iFanr : iFanr (ID WeChat : ifanr), où du contenu plus passionnant vous sera présenté dès que possible.