Les appels automatisés utilisant une technologie de clonage vocal basée sur l’IA sont interdits par une agence américaine
Les appels automatisés effectués avec la technologie de clonage vocal basée sur l'IA ont été interdits par la Federal Communications Commission (FCC) dans le but de réduire la fraude et la désinformation liée aux élections.
La nouvelle décision donne aux procureurs généraux des États les pouvoirs nécessaires pour prendre des mesures contre les personnes à l'origine d'appels utilisant la technologie de clonage vocal de l'IA.
Dans un communiqué publié jeudi, la FCC a déclaré que le taux de tels appels avait augmenté ces dernières années, ajoutant qu'ils pouvaient potentiellement « confondre les consommateurs avec de la désinformation en imitant les voix de célébrités, de candidats politiques et de membres de leur famille proche ».
Il a déclaré que même si les escroqueries ou les fraudes actuelles que les appels automatisés cherchent à perpétrer sont déjà illégales, cette dernière décision rend illégal le fait d'utiliser l'IA pour générer la fausse voix dans ces appels automatisés, « élargissant ainsi les voies juridiques par lesquelles les organismes d'application de la loi des États peut tenir ces auteurs pour responsables en vertu de la loi.
Commentant la nouvelle décision, la présidente de la FCC, Jessica Rosenworcel, a déclaré que la FCC « avertissait désormais les fraudeurs derrière ces appels automatisés », ajoutant : « Les procureurs généraux des États disposeront désormais de nouveaux outils pour réprimer ces escroqueries et garantir que le public est protégé contre fraude et désinformation.
La question de l'utilisation des voix générées par l'IA a récemment fait la une des journaux lorsqu'il est apparu que certains habitants du New Hampshire avaient reçu des appels émis par une voix similaire à celle du président Joe Biden, qui décourageait les gens de voter à la primaire présidentielle de l'État. Deux sociétés basées au Texas ont depuis été liées à ces appels, et diverses sanctions pourraient en résulter si l'affaire est prouvée.
Depuis 2018, le nombre d'appels automatisés effectués chaque année aux États-Unis se situe entre 47 et 55 milliards, selon le service de blocage d'appels automatisés YouMail , et un nombre croissant aura été effectué grâce à une technologie de clonage vocal qui s'améliore rapidement. L'année dernière, la FCC a infligé la plus grosse amende jamais enregistrée – 300 millions de dollars – pour ce qu'elle a décrit comme « la plus grande opération d'appel automatisé illégale sur laquelle l'agence ait jamais enquêté », même si l'on ne pense pas qu'elle ait impliqué une technologie de clonage vocal.