« Le parrain de l’IA » quitte Google pour s’exprimer plus librement sur ses préoccupations

Le pionnier de l'intelligence artificielle Geoffrey Hinton en a surpris plus d'un lundi lorsqu'il a révélé qu'il quittait son emploi chez Google où il travaillait depuis une décennie sur des projets d'IA.

Souvent qualifié de « parrain de l'IA » pour son travail révolutionnaire qui sous-tend de nombreux systèmes d'IA d'aujourd'hui, Hinton, né en Grande-Bretagne, aujourd'hui âgé de 75 ans, a déclaré au New York Times qu'il avait de sérieuses inquiétudes quant à la vitesse à laquelle des systèmes comme Open AI avec son outil ChatGPT , et Google avec Bard , travaillent au développement de leurs produits, d'autant que cela pourrait se faire au détriment de la sécurité.

Hinton est tellement inquiet qu'il a même dit qu'une partie de lui regrettait ses efforts passés dans le domaine de l'IA, a rapporté le Times.

Comme le souligne le rapport, les outils d'IA générative tendent déjà à remplacer les travailleurs humains, et la technologie peut également être utilisée pour créer et diffuser des informations erronées.

En effet, l'une des inquiétudes de Hinton est qu'Internet, dont les données sont utilisées pour former des outils d'IA génératifs, soit inondé de fausses informations qui pourraient amener des chatbots comme ChatGPT et Bard à cracher des contrevérités sans fin d'une manière qui semble crédible.

Alors que les entreprises à l'origine de la technologie publient leurs outils alimentés par l'IA pour un usage public sans connaître pleinement leur potentiel, Hinton craint qu'il soit "difficile de voir comment vous pouvez empêcher les mauvais acteurs de l'utiliser pour de mauvaises choses".

Hinton a déclaré que la réglementation de la technologie sera difficile car les entreprises et les gouvernements peuvent travailler sur la technologie à peu près en secret, ajoutant qu'une façon de traiter le problème est d'essayer d'amener des scientifiques de premier plan à travailler ensemble sur les moyens de contrôler la technologie.

L'expert en IA a déclaré lundi dans un tweet qu'il avait décidé de quitter Google afin de pouvoir "parler des dangers de l'IA sans tenir compte de l'impact de cela sur Google", suggérant que nous entendrons beaucoup plus parler de lui à mesure que la technologie continuera à évoluer. développer.

Exprimant des inquiétudes encore plus grandes le mois dernier lorsqu'on lui a demandé dans une interview à CBS la probabilité que l'IA "anéantisse l'humanité", Hinton a déclaré: "Ce n'est pas inconcevable."

Suite à l'annonce du départ de Hinton, Jeff Dean, scientifique en chef de Google, a déclaré dans un communiqué : « Nous restons attachés à une approche responsable de l'IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace.

Hinton n'est pas le seul expert à s'inquiéter de la nouvelle vague de technologie d'intelligence artificielle qui a pris d'assaut le monde.

De manière peut-être surprenante, le patron d'OpenAI, Sam Altman, a récemment admis avoir "un peu peur" des effets potentiels de la technologie de l'IA.

Et en mars, une lettre signée par des leaders technologiques et des universitaires affirmait que la technologie posait «des risques profonds pour la société et l'humanité».

Publiée par le Future of Life Institute et dont les signataires comprenaient Elon Musk, la lettre appelait à une pause de six mois sur les travaux de développement pour laisser le temps à la création et à la mise en œuvre de protocoles de sécurité pour les outils avancés.

Il a ajouté que si elle est gérée de la bonne manière, l'humanité pourra "profiter d'un avenir florissant avec l'IA".