Même le « parrain de l’IA » n’a pas vu venir ce moment ChatGPT
Geoffrey Hinton, l'homme largement considéré comme le « parrain de l'IA » pour son travail révolutionnaire à l'origine de nombreux systèmes d'IA actuels, a déclaré à plusieurs reprises que la technologie pourrait potentiellement anéantir l'humanité si son développement n'est pas géré avec soin.
Mais alors qu'il réfléchissait à une possibilité aussi profonde, le chatbot populaire ChatGPT d'OpenAI a récemment surpris Hinton d'une manière des plus inattendues : sa petite amie l'a utilisé pour mettre fin à leur relation.
« Elle a demandé à ChatGPT de me dire à quel point j'étais un rat », a-t-il déclaré au Financial Times lors d'une récente interview, admettant qu'il était surpris par sa décision de faire appel à l'outil d'IA sur une question aussi délicate.
« Elle a demandé au chatbot d'expliquer à quel point mon comportement était horrible et me l'a donné », a déclaré le pionnier de l'IA, ajoutant : « Je ne pensais pas avoir été un rat, donc cela ne m'a pas fait me sentir trop mal. »
En fait, demander à des chatbots alimentés par l’IA comme ChatGPT de rédiger des messages de rupture , ou même de demander des conseils sur la façon de mettre fin à une relation , ne semble pas être une nouveauté, avec un nombre croissant de personnes consultant l’IA sur toute une série de problèmes de la vie.
Hinton, qui a reçu l'année dernière le prix Nobel de physique pour ses travaux dans les années 1980 qui ont conduit à l'apprentissage automatique avec des réseaux de neurones artificiels, a quitté Google en 2023 après y avoir travaillé pendant une décennie sur divers projets d'IA.
Aujourd'hui âgé de 77 ans, cet expert en IA est professeur émérite au département d'informatique de l'Université de Toronto, une institution à laquelle il est étroitement lié depuis 1987.
Hinton s'inquiète toujours de la façon dont une version superintelligente de l'IA pourrait causer des problèmes majeurs à l'humanité à l'avenir, suggérant au Financial Times que ceux qui développent cette technologie aujourd'hui – OpenAI, Microsoft, Meta et Google, entre autres – devraient essayer de la façonner de manière à ce qu'elle nous materne « parce que la mère se soucie beaucoup du bébé, préservant sa vie ». En d'autres termes, elle doit avoir un instinct maternel .
En ce qui concerne la question de savoir quand l'IA atteindra réellement la superintelligence — l'objectif de nombreuses grandes entreprises d'IA aujourd'hui — Hinton déclare que « de nombreux scientifiques s'accordent à dire qu'entre cinq et vingt ans, c'est le meilleur pari ».
Il prédit également que l'IA « va créer un chômage massif et une hausse considérable des profits », la technologie rendant « quelques personnes beaucoup plus riches et la plupart des gens plus pauvres ». Il en impute la responsabilité au « système capitaliste », et non à l'IA.
Et avec toutes ses connaissances, le spécialiste de l’IA ne peut que dire que « nous n’avons aucune idée » de la façon dont la technologie va évoluer, ajoutant qu’elle « peut être incroyablement bonne, et elle peut être incroyablement mauvaise ».
Sur une note plus positive, Hinton a annoncé avoir rencontré un nouveau partenaire. Espérons que cette nouvelle relation ne se terminera pas par une rupture verbalisée sur ChatGPT.