Protégez le public des risques liés à l’IA, dit la Maison Blanche aux géants de la technologie

Lors d'une réunion d'éminents leaders technologiques à la Maison Blanche jeudi, le vice-président Kamala Harris a rappelé aux participants qu'ils avaient la «responsabilité éthique, morale et légale d'assurer la sûreté et la sécurité» de la nouvelle vague d'outils d'IA générative qui ont a attiré l'attention ces derniers mois.

La réunion fait partie d'un effort plus large visant à dialoguer avec des défenseurs, des entreprises, des chercheurs, des organisations de défense des droits civiques, des organisations à but non lucratif, des communautés, des partenaires internationaux et d'autres sur des questions importantes liées à l'IA, a déclaré la Maison Blanche.

Harris et d'autres responsables ont déclaré aux dirigeants de Google, Microsoft, Anthropic et OpenAI – la société derrière le chatbot ChatGPT – que les géants de la technologie doivent se conformer aux lois existantes pour protéger le peuple américain contre l'utilisation abusive de la nouvelle vague de produits d'IA. De nouvelles réglementations pour l'IA générative devraient entrer en vigueur d'ici trop longtemps, mais le niveau auquel elles restreindront la technologie dépendra dans une certaine mesure de la manière dont les entreprises déploieront leurs technologies d'IA à l'avenir.

Jeudi également, la Maison Blanche a partagé un document décrivant de nouvelles mesures conçues pour promouvoir une innovation responsable en IA. L'action comprend un financement de 140 millions de dollars pour sept nouveaux instituts nationaux de recherche sur l'IA, portant le nombre total de ces instituts à 25 aux États-Unis

Les chatbots avancés comme ChatGPT et Google's Bard répondent aux invites de texte et sont capables de répondre d'une manière très humaine. Ils peuvent déjà effectuer un large éventail de tâches de manière très impressionnante, telles que la rédaction de présentations et d'histoires, la synthèse d'informations et même l'écriture de code informatique.

Mais avec les entreprises technologiques qui se précipitent pour mettre leur technologie de chatbot au premier plan en l'intégrant dans les outils en ligne existants, on craint les implications à long terme de la technologie pour la société au sens large, comme son impact sur le lieu de travail ou conduire à de nouveaux types d'activité criminelle . Il y a même des inquiétudes quant à la façon dont la technologie, si elle est autorisée à se développer sans contrôle, pourrait constituer une menace pour l'humanité elle-même.

Le chef d'OpenAI, Sam Altman, a déclaré en mars qu'il avait "un peu peur" des effets potentiels de l'IA, tandis qu'une récente lettre publiée par des experts de l'IA et d'autres acteurs de l'industrie technologique appelait à une pause de six mois dans le développement de l'IA générative pour permettre temps pour la création de protocoles de sécurité partagés.

Et pas plus tard que cette semaine, Geoffrey Hinton, l'homme largement considéré comme le "parrain de l'IA" pour son travail de pionnier dans le domaine, a quitté son poste chez Google afin de pouvoir parler plus librement de ses préoccupations concernant la technologie. L'ingénieur de 75 ans a déclaré qu'alors que les entreprises technologiques publient leurs outils d'IA pour un usage public sans être pleinement conscientes de leur potentiel, il est "difficile de voir comment vous pouvez empêcher les mauvais acteurs de les utiliser pour de mauvaises choses".

Encore plus alarmant, dans une récente interview de CBS dans laquelle il a été interrogé sur la probabilité que l'IA "anéantisse l'humanité", Hinton a répondu : "Ce n'est pas inconcevable".

Mais il convient également de noter que la plupart de ceux qui expriment leurs inquiétudes pensent également que si elle est gérée de manière responsable, la technologie pourrait avoir de grands avantages pour de nombreux secteurs de la société, y compris, par exemple, les soins de santé, ce qui conduirait à de meilleurs résultats pour les patients.