Les visages générés par l’IA envahissent Internet
Le Times a dressé le portrait d'une Ukrainienne de 18 ans nommée "Luba Dovzhenko" en mars pour illustrer la vie en état de siège. Elle, selon l'article, a étudié le journalisme, parlait «mauvais anglais» et a commencé à porter une arme après l'invasion russe.
Le problème, cependant, était que Dovhenko n'existait pas dans la vraie vie, et l'histoire a été supprimée peu de temps après sa publication,
Luba Dovhenko était un faux personnage en ligne conçu pour capitaliser sur l'intérêt croissant pour les histoires de guerre entre l'Ukraine et la Russie sur Twitter et gagner un large public. Non seulement le compte n'a jamais tweeté avant mars, mais il avait également un nom d'utilisateur différent, et les mises à jour qu'il avait tweetées, ce qui a peut-être attiré l'attention du Times, avaient été arrachées à d'autres profils authentiques. La preuve la plus accablante de sa fraude, cependant, était juste là, sur son visage.
Sur la photo de profil de Dovhenko, certaines de ses mèches de cheveux étaient détachées du reste de sa tête, quelques cils manquaient et, plus important encore, ses yeux étaient étonnamment centrés. Ils étaient tous des signes révélateurs d'un visage artificiel craché par un algorithme d'IA.
Le positionnement des traits du visage n'est pas la seule anomalie dans la photo de profil de @lubadovzhenko1 ; pas les cheveux détachés dans la partie inférieure droite de l'image et les cils partiellement manquants (entre autres). pic.twitter.com/UPuvAQh4LZ
— Conspirateur Norteño (@conspirator0) 31 mars 2022
Le visage de Dovhenko a été fabriqué par la technologie derrière les deepfakes , une technique de plus en plus courante qui permet à n'importe qui de superposer un visage sur celui d'une autre personne dans une vidéo et qui est utilisée pour tout, du revenge porn à la manipulation des discours des dirigeants mondiaux. Et en alimentant ces algorithmes avec des millions d'images de personnes réelles, ils peuvent être réutilisés pour créer des visages réalistes comme celui de Dovhenko à partir de rien. C'est un problème croissant qui rend la lutte contre la désinformation encore plus difficile.
Une armée de faux visages générés par l'IA
Au cours des dernières années, alors que les réseaux sociaux sévissaient contre les trolls sans visage et anonymes, l'IA a armé les acteurs malveillants et les bots d'une arme inestimable : la capacité d'apparaître d'une authenticité alarmante. Contrairement à avant, lorsque les trolls arrachaient simplement de vrais visages sur Internet et que n'importe qui pouvait les démasquer en inversant l'image de leur photo de profil, il est pratiquement impossible pour quelqu'un de faire la même chose pour les photos générées par l'IA car elles sont fraîches et uniques. Et même en y regardant de plus près, la plupart des gens ne peuvent pas faire la différence.
Le Dr Sophie Nightingale, professeur de psychologie à l'Université de Lancaster au Royaume-Uni, a découvert que les gens n'avaient que 50% de chances de repérer un visage synthétisé par l'IA, et beaucoup les considéraient même plus dignes de confiance que les vrais. Le moyen pour quiconque d'accéder à "un contenu synthétique sans connaissance spécialisée de Photoshop ou CGI", a-t-elle déclaré à Digital Trends, "crée une menace beaucoup plus importante pour les utilisations néfastes que les technologies précédentes".
Ce qui rend ces visages si insaisissables et très réalistes, explique Yassine Mekdad, chercheur en cybersécurité à l'Université de Floride, dont le modèle pour repérer les images générées par l'IA a une précision de 95,2 %, c'est que leur programmation (connue sous le nom de réseau antagoniste génératif) utilise deux réseaux de neurones opposés qui travaillent l'un contre l'autre pour améliorer une image. L'un (G, générateur) est chargé de générer les fausses images et d'induire l'autre en erreur, tandis que le second (D, discriminateur) apprend à distinguer les résultats du premier des vrais visages. Ce « jeu à somme nulle » entre les deux permet au générateur de produire des « images indiscernables ».
Et les visages générés par l'IA ont en effet envahi Internet à un rythme effréné. Outre des comptes comme celui de Dovhenko qui utilisent des personnages synthétisés pour accumuler des abonnés, cette technologie a récemment alimenté des campagnes beaucoup plus alarmantes.
Lorsque Google a licencié un chercheur en éthique de l'IA, Timnit Gebru, en 2020 pour avoir publié un article mettant en évidence les biais dans les algorithmes de l'entreprise, un réseau de robots avec des visages générés par l'IA , qui affirmaient avoir travaillé dans la division de recherche sur l'IA de Google, a surgi à travers réseaux sociaux et a tendu une embuscade à quiconque parlait en faveur de Gebru. Des activités similaires de pays comme la Chine ont été détectées faisant la promotion de récits gouvernementaux.
Lors d'un rapide examen de Twitter, il ne m'a pas fallu longtemps pour trouver plusieurs anti-vaccins , pro-russes et bien d'autres – tous se cachant derrière un visage généré par ordinateur pour faire avancer leurs agendas et attaquer quiconque se dresse sur leur chemin. Bien que Twitter et Facebook suppriment régulièrement de tels botnets, ils n'ont pas de cadre pour s'attaquer aux trolls individuels avec un visage synthétique, même si la politique d'identité trompeuse et trompeuse du premier "interdit l'usurpation d'identité d'individus, de groupes ou d'organisations pour induire en erreur, confondre ou tromper les autres, ni utiliser une fausse identité d'une manière qui perturbe l'expérience des autres. C'est pourquoi, lorsque j'ai signalé les profils que j'ai rencontrés, j'ai été informé qu'ils n'enfreignaient aucune politique.
Sensity, une société de solutions de fraude basées sur l'IA, estime qu'environ 0,2 % à 0,7 % des personnes sur les réseaux sociaux populaires utilisent des photos générées par ordinateur. Cela ne semble pas beaucoup en soi, mais pour Facebook (2,9 milliards d'utilisateurs), Instagram (1,4 milliard d'utilisateurs) et Twitter (300 millions d'utilisateurs), cela signifie des millions de bots et d'acteurs qui pourraient potentiellement faire partie de campagnes de désinformation. .
Le pourcentage de correspondance d'une extension Chrome de détecteur de visage générée par l'IA par V7 Labs a corroboré les chiffres de Sensity. Son PDG, Alberto Rizzoli, affirme qu'en moyenne, 1 % des photos que les gens téléchargent sont signalées comme fausses.
Le marché des faux visages
Une partie de la raison pour laquelle les photos générées par l'IA ont proliféré si rapidement est la facilité avec laquelle elles sont obtenues. Sur des plateformes comme Generated Photos , n'importe qui peut acquérir des centaines de milliers de faux visages haute résolution pour quelques dollars, et pour les personnes qui en ont besoin à des fins ponctuelles comme des campagnes de diffamation personnelles, ils peuvent les télécharger à partir de sites Web tels que thispersondoesnotexist .com , qui génère automatiquement un nouveau visage synthétique chaque fois que vous le rechargez.
Ces sites Web ont rendu la vie particulièrement difficile pour des personnes comme Benjamin Strick, directeur des enquêtes au Centre for Information Resilience du Royaume-Uni, dont l'équipe passe des heures chaque jour à suivre et à analyser les contenus trompeurs en ligne.
"Si vous intégrez [les technologies auto-génératives] dans un ensemble de profils factices, en travaillant dans une fausse startup (via thisstartupdoesnotexist.com)", a déclaré Strick à Digital Trends, "il existe une recette pour l'ingénierie sociale et une base pour une très trompeuse pratiques qui peuvent être configurées en quelques minutes.
Ivan Braun, le fondateur de Generated Photos, soutient que tout n'est pas mauvais, cependant. Il soutient que les photos GAN ont de nombreux cas d'utilisation positifs – comme l'anonymisation des visages dans la vue de rue de Google Maps et la simulation de mondes virtuels dans les jeux – et c'est ce que la plate-forme promeut. Si quelqu'un s'occupe d'induire les gens en erreur, Braun dit qu'il espère que les défenses antifraude de sa plateforme seront capables de détecter les activités nuisibles, et qu'à terme les réseaux sociaux pourront filtrer les photos générées des authentiques.
Mais la réglementation de la technologie générative basée sur l'IA est également délicate, car elle alimente également d'innombrables services précieux, y compris ce dernier filtre sur Snapchat et les fonctionnalités d'éclairage intelligent de Zoom. Le PDG de Sensity, Giorgio Patrini, convient que l'interdiction de services tels que Generated Photos n'est pas pratique pour endiguer la montée des visages générés par l'IA. Au lieu de cela, il existe un besoin urgent d'approches plus proactives de la part des plateformes.
Jusqu'à ce que cela se produise, l'adoption des médias synthétiques continuera d'éroder la confiance dans les institutions publiques comme les gouvernements et le journalisme, déclare Tyler Williams, directeur des enquêtes chez Graphika, une société d'analyse de réseaux sociaux qui a découvert certaines des campagnes les plus étendues impliquant de faux personnages. . Et un élément crucial dans la lutte contre l'utilisation abusive de ces technologies, ajoute Williams, est "un programme d'éducation aux médias dès le plus jeune âge et une formation à la vérification des sources".
Comment repérer un visage généré par l'IA ?
Heureusement pour vous, il existe quelques moyens infaillibles de savoir si un visage est créé artificiellement. La chose à retenir ici est que ces visages sont évoqués simplement en mélangeant des tonnes de photos. Ainsi, bien que le visage réel ait l'air réel, vous trouverez de nombreux indices sur les bords : les formes des oreilles ou des boucles d'oreilles peuvent ne pas correspondre, des mèches de cheveux peuvent voler partout et la garniture des lunettes peut être étrange – la liste continue. Le cadeau le plus courant est que lorsque vous parcourez quelques faux visages, tous leurs yeux seront exactement dans la même position : au centre de l'écran. Et vous pouvez tester avec le hack « billet de train plié », comme le démontre ici Strick.
Nightingale pense que la menace la plus importante que représentent les photos générées par l'IA est d'alimenter le "dividende du menteur" – leur simple existence permet à tout média d'être considéré comme un faux. "Si nous ne pouvons pas raisonner sur les faits fondamentaux du monde qui nous entoure", affirme-t-elle, "alors cela expose nos sociétés et nos démocraties à un risque substantiel".