De fausses images d’IA apparaissent dans la recherche Google – et c’est un problème
À l'heure actuelle, si vous tapez « Israel Kamakawiwoʻole » dans la recherche Google, vous ne voyez pas l'une des célèbres pochettes d'album du chanteur, ni une image de lui interprétant une de ses chansons sur son ukulélé emblématique. Ce que vous voyez en premier est l’image d’un homme assis sur une plage avec un sourire sur le visage – mais pas une photo de l’homme lui-même prise avec un appareil photo. Il s'agit d'une fausse photo générée par l'IA. En fait, lorsque vous cliquez sur l'image, cela vous amène au subreddit Midjourney , où la série d'images a été initialement publiée.
J'ai vu ceci pour la première fois publié par Ethan Mollick sur X (anciennement connu sous le nom de Twitter), professeur à Wharton qui étudie l'IA.
En regardant la photo de près, il n’est pas difficile de voir toutes les traces d’IA qui y sont laissées. Le faux effet de profondeur de champ est appliqué de manière inégale, la texture de sa chemise est déformée et, bien sûr, il lui manque un doigt sur la main gauche. Mais rien de tout cela n’est surprenant. Aussi bonnes que soient devenues les images générées par l’IA au cours de la dernière année, elles sont toujours assez faciles à repérer lorsque vous regardez de près.
Le vrai problème, cependant, est que ces images apparaissent comme le premier résultat d’un personnage célèbre et connu, sans aucun filigrane ni indication qu’il est généré par l’IA. Google n'a jamais garanti l'authenticité des résultats de sa recherche d'images, mais il y a quelque chose de très troublant à ce sujet.
Il existe maintenant quelques explications possibles pour expliquer pourquoi cela s’est produit dans ce cas particulier. Le chanteur hawaïen, communément appelé Iz, est décédé en 1997 – et Google souhaite toujours fournir les dernières informations aux utilisateurs. Mais étant donné que peu de nouveaux articles ou de discussions ont eu lieu à propos d'Iz depuis lors, il n'est pas difficile de comprendre pourquoi l'algorithme a repris cela. Et même si cela ne semble pas particulièrement important pour Iz, il n'est pas difficile d'imaginer des exemples qui seraient beaucoup plus problématiques.
Même si nous ne continuons pas à voir cela se produire à grande échelle dans les résultats de recherche, c'est un excellent exemple de la raison pour laquelle Google doit avoir des règles à ce sujet. À tout le moins, il semble que les images générées par l’IA devraient être clairement marquées d’une manière ou d’une autre avant que les choses ne deviennent incontrôlables. Si rien d’autre, donnez-nous au moins un moyen de filtrer automatiquement les images IA. Cependant, étant donné l'intérêt de Google pour le contenu généré par l'IA , il y a des raisons de penser qu'il pourrait vouloir trouver des moyens d' introduire le contenu créé par l'IA dans ses résultats, sans le marquer clairement.