Exclusif : le père de l’informatique quantique pense que l’AGI sera une personne, pas un programme

Il y a un type de programme que nous ne comprenons pas, même dans son principe, et c'est l'IAG. Un jour, nous le comprendrons, mais je n'en vois aucun signe pour le moment, et c'est assez frustrant.

C'est le point de vue de David Deutsch, considéré comme le « père de l'informatique quantique », quelqu'un qui sait brillamment mélanger physique, philosophie et humour, dans une vidéo offerte en exclusivité à Digital Trends.

Aujourd’hui, Deutsch reste une voix influente non seulement dans la théorie quantique mais aussi dans les débats sur l’intelligence artificielle.

S'exprimant dans la série de podcasts Strange Loop de Sana – co-animée par Joel Hellermark , PDG de la scale-up suédoise d'IA Sana et Gustav Söderström , co-président de Spotify – Deutsch parle longuement et de manière fascinante de la façon dont l'AGI pourrait se manifester d'une manière à laquelle nous ne nous attendons pas – allant jusqu'à prédire ce qui se passera si l'humanité survit un million d'années dans le futur.

Alors que des entreprises comme Google et OpenAI parlent régulièrement de leurs progrès vers l'intelligence artificielle générale (AGI) – le moment où l'IA peut vraiment apprendre et réagir comme un humain – avec des produits comme ChatGPT et Gemini , de nombreuses personnes se demandent régulièrement si l'AGI a déjà été atteinte.

Lorsqu'on lui demande quel pourrait être le signe qu'une « véritable » AGI a été atteinte, Deutsch répond que nous ne savons même pas ce que nous recherchons :

[Le signe sera] si quelqu'un a une théorie. Le signe ne serait pas dans la machine ; le signe serait une théorie où quelqu'un écrit un livre ou publie un article disant : « J'ai résolu le problème. C'est ce qui caractérise une intelligence générale (IG) ».

« Si nous pouvions écrire un programme informatique doté de cette propriété, ce serait une IAG, et ce serait la raison – une théorie explicative de ce qu’est l’intelligence générale. »

Ce qui est important, c’est la mesure dans laquelle Deutsch remet en question les idées reçues sur l’état actuel de l’intelligence artificielle et sur sa direction future.

Il n'est pas impressionné par les performances actuelles des moteurs d'IA, tout en gardant espoir quant à leur développement continu.

Dans de nombreuses conversations sur l’intelligence artificielle, les gens voient souvent l’AGI comme l’extension logique de l’IA .

Deutsch caractérise les plateformes d’IA actuelles comme des « optimiseurs obéissants » alors que la véritable AGI aurait la capacité d’expliquer, de prédire et de tirer des conclusions que les opérateurs humains n’ont pas anticipées.

Alors que le monde entier se demande si les masters en droit (LLM) évoluent vers une intelligence comparable à celle de l'homme, David Deutsch propose un contrepoint audacieux : l'IAG ne sera pas un outil à manier. Ce sera une personne avec laquelle il faudra compter.

Selon Deutsch, les masters actuels ne constituent pas la voie à suivre. Ils offrent des corrélations, mais pas d'explications. Il affirme qu'il s'agit de la véritable mesure de l'intelligence humaine et qu'il s'agit de l'élément manquant des tentatives actuelles d'IAG.

Il établit une distinction très nette entre la recherche de modèles et le raisonnement créatif. C'est une distinction extrêmement importante.

Il est dans la nature humaine de s'attendre à ce que les tendances actuelles perdurent à l'infini. Étant donné que les masters de droit reposent actuellement sur des connaissances humaines agrégées, ce biais est déjà ancré.

Le célèbre test de Turing, où l'on demande à un juge humain d'interagir avec une autre entité par texte et de déterminer si le répondant est un humain ou une machine, est une méthode souvent utilisée pour « tester » la capacité de l'IA à évaluer ses progrès.

Si certains ont « réussi » le test, Deutsch souligne qu'il est assez facile pour les machines d'imiter le langage et le raisonnement humains sans réfléchir. Selon Deutsch, les résultats à eux seuls ne peuvent pas prouver l'intelligence.

L’affirmation la plus provocatrice de Deutsch est que lorsque la véritable AGI sera atteinte, les machines seront devenues des personnes :

Chaque IAG est une personne. Si nous la reconnaissons comme telle, ce qui sera le cas, alors sa première propriété est l'ordinateur sur lequel elle fonctionne.

« Il ne voudra pas se cloner, car il aura des biens, à moins d'être considéré comme un esclave, ce qui serait une erreur catastrophique de la société. »

Il va jusqu'à dire que nous ne pourrions plus considérer l'AGI comme une « propriété », suggérant que les gens devraient utiliser le programme – et donc lui attribuer des droits de travailleurs et autres – pour qu'il puisse faire des choses comme acheter des extensions à son matériel pour augmenter ses capacités.

Risque sans perte

Deutsch ne minimise pas les risques : il s’attend à de nombreuses erreurs à mesure que nous progressons vers des systèmes plus puissants. Mais il s’oppose au discours sur « l’apocalypse de l’IA ».

Il croit que si les humains continuent d’évoluer pendant le prochain million d’années, ils auront conquis la galaxie, mais cela sera imprégné par l’intelligence artificielle, plutôt que consommé par elle.

Comme toutes les technologies, l'IA exige une surveillance rigoureuse, des critiques et des corrections d'erreurs. Le danger n'est pas que les machines se rebellent soudainement, mais que nous répétions la plus vieille erreur de l'humanité : nier les droits des êtres capables de penser et d'agir librement.

S’il a raison, la première véritable IA ne changera pas seulement la technologie : elle nous obligera à redéfinir la morale, la loi et le sens même de l’intelligence.