Les experts en santé médicale sont les derniers à sonner l’alarme sur le développement de l’IA

Un groupe international de médecins et d'experts en santé médicale est le dernier à demander la réglementation de l'intelligence artificielle (IA), affirmant qu'elle "présente un certain nombre de menaces pour la santé et le bien-être humains" et affirmant que la "fenêtre d'opportunité pour éviter des dommages graves et potentiellement existentiels se termine.

L'analyse fait suite à d'autres avertissements récents d'éminentes personnalités de la technologie, dont Geoffrey Hinton , le soi-disant «parrain de l'IA», et un groupe d'experts qui figuraient parmi les 1 000 signataires d'une lettre appelant à une suspension du développement de l'IA jusqu'à ce qu'un ensemble de des règles peuvent être établies pour garantir son utilisation en toute sécurité.

Le dernier avertissement vient d'un article écrit par des professionnels de la santé des États-Unis, du Royaume-Uni, d'Australie, du Costa Rica et de Malaisie, qui a été publié en ligne par BMJ Global Health cette semaine.

L'équipe a mis en évidence trois façons dont elle pense que l'IA constitue une menace pour la santé humaine, citant "le contrôle et la manipulation des personnes, l'utilisation d'armes autonomes létales et les effets sur le travail et l'emploi".

Il poursuit en examinant comment il pense qu'une version plus avancée de la technologie de l'IA "pourrait menacer l'humanité elle-même".

L'article commence par noter comment les systèmes basés sur l'IA sont de plus en plus utilisés dans la société, organisant et analysant d'énormes quantités de données, mais avertit qu'il peut être un outil puissant pour les candidats politiques pour "manipuler leur chemin vers le pouvoir", citant des cas de Subversion des élections par l'IA, y compris lors des élections américaines de 2016.

"Lorsqu'ils sont combinés à la capacité à déformer ou à déformer la réalité avec des deepfakes, qui s'améliorent rapidement, les systèmes d'information basés sur l'IA peuvent encore saper la démocratie en provoquant une rupture générale de la confiance ou en provoquant des divisions et des conflits sociaux, avec des impacts sur la santé publique qui en résultent", indique l'article. .

Il a également noté comment l'IA est de plus en plus utilisée dans les systèmes militaires et de défense, la «déshumanisation de la guerre humaine» ayant une myriade de conséquences pour la santé humaine à mesure que les armes deviennent plus sophistiquées et plus faciles à déployer.

L'article explique également comment l'IA pourrait un jour remplacer d'innombrables emplois , notant que le chômage est connu pour être fortement associé à des effets néfastes sur la santé.

Enfin, il aborde le scénario cauchemardesque où l'IA devient si avancée qu'elle pourrait constituer une menace pour l'humanité.

"Nous cherchons maintenant à créer des machines qui sont beaucoup plus intelligentes et puissantes que nous", indique l'article. "Le potentiel de ces machines à appliquer cette intelligence et ce pouvoir – délibérément ou non – de manière à nuire ou à subjuguer les humains est réel et doit être pris en compte."

Bien que l'article reconnaisse que l'IA a de nombreuses utilisations bénéfiques potentielles, il a également déclaré qu'il y avait également de quoi s'inquiéter à mesure que la technologie progressait rapidement.

L'équipe a conclu qu'une réglementation efficace du développement et de l'utilisation de l'IA est nécessaire « pour éviter les dommages », ajoutant : « Jusqu'à ce qu'une telle réglementation efficace soit en place, un moratoire sur le développement de l'intelligence artificielle générale auto-améliorée devrait être institué. »