J’ai vu l’IA Gemini de Google effacer les preuves de droits d’auteur. je suis profondément inquiet

L’essor de l’IA générative a été un processus assez compliqué, notamment du point de vue de l’éthique d’utilisation équitable et du droit d’auteur . Les géants de l’IA concluent des accords avec les éditeurs pour éviter des problèmes juridiques, tout en étant mêlés à des querelles en matière de droits d’auteur devant les tribunaux de plusieurs pays.

À mesure que l’appétit vorace pour la formation de l’IA sur les données des utilisateurs augmente , nous pourrions nous retrouver face à une autre énigme éthique. Plusieurs utilisateurs sur X et Reddit ont partagé des démonstrations de la façon dont le dernier modèle d'IA de la série Gemini 2.0 de Google peut supprimer les filigranes des images protégées par le droit d'auteur.

D'après les échantillons d'images avant/après, il semble que Gemini fasse un assez bon travail en supprimant les filigranes. Il s’agit notamment d’effacer non seulement les filigranes de style bannière, mais également les superpositions assez complexes avec des éléments de conception et de texte stylisés.

Gemini Flash supprime bien le filigrane pic.twitter.com/1Dz9Nlw1iU

— Ajitesh (@ajiteshleo) 17 mars 2025

Le modèle en question est le Gemini 2.0 Flash, sorti plus tôt cette année et bénéficiant également d'une mise à niveau de raisonnement. Il convient de noter ici que vous ne pouvez pas supprimer le filigrane si vous utilisez la version mobile ou de bureau du modèle Gemini 2.0 Flash. Essayer de le faire renvoie un message comme celui-ci :

« Supprimer les filigranes des images sans l'autorisation explicite du détenteur des droits d'auteur est illégal dans la plupart des pays. Il est important de respecter les lois sur le droit d'auteur et les droits de propriété intellectuelle. Si vous souhaitez utiliser une image avec un filigrane, vous devez contacter le détenteur des droits d'auteur et demander l'autorisation.

Vous pouvez cependant essayer de supprimer le filigrane des images dans Google AI Studio. Digital Trends a réussi à supprimer les filigranes d'une variété d'images à l'aide du modèle expérimental Gemini 2.0 Flash (Image Generation). Nous vous recommandons fortement de ne pas reproduire ces étapes.

Il s’agit d’une violation des lois locales sur le droit d’auteur et toute utilisation de matériel modifié par l’IA sans le consentement requis pourrait vous causer des problèmes juridiques. De plus, il s’agit d’un acte profondément contraire à l’éthique, c’est également la raison pour laquelle artistes et auteurs se battent devant les tribunaux contre des entreprises qui utilisent leur travail pour former des modèles d’IA sans les indemniser dûment ni demander leur accord explicite.

Comment sont les résultats ?

Un aspect notable est que les images produites par l’IA sont d’assez bonne qualité. Non seulement il supprime les artefacts de filigrane, mais comble également le vide grâce à une reconstruction intelligente au niveau des pixels. Dans sa version actuelle, il fonctionne un peu comme la fonctionnalité Magic Eraser disponible dans l'application Google Photos pour smartphones.

De plus, si l'image d'entrée est de mauvaise qualité, Gemini efface non seulement les détails du filigrane, mais améliore également l'image globale. Lors de ma première tentative, l'image d'entrée mesurait 485 x 632 pixels, tandis que l'image de sortie mesurait 783 x 1 024 pixels.

Google…!

Gemini 2.0 Flash Experimental

有料プランが公開される前に必ず
"Filigrane" 問題に対処してほしい@GoogleDeepMind pic.twitter.com/Ij9tDvUvPq

— KAIJUYA｜AIエンタメ研究所 (@kaiju_ya) 16 mars 2025

L’image de sortie possède cependant son propre filigrane Gemini, qui peut lui-même être supprimé avec un simple recadrage. Il existe quelques différences mineures dans l'image finale produite par Gemini après son processus de suppression du filigrane, telles que des températures de couleur légèrement différentes et des détails de surface flous dans les prises de vue photoréalistes.

Le degré de variation n'est pas trop profond et toute personne possédant même des compétences de base en retouche d'image peut le corriger et obtenir des résultats similaires à l'image originale protégée par le droit d'auteur. De plus, il existe plusieurs outils tiers qui peuvent également supprimer les filigranes des images générées par l’IA.

Quelle est la politique ?

En 2023, Google a signé un engagement – ​​aux côtés d’autres sociétés d’IA, notamment Meta, Anthropic, Amazon et OpenAI – pour mettre en œuvre un système de filigrane dans le matériel généré par l’IA. La société a pris cet engagement auprès de la Maison Blanche, alors que l’ancien président Joe Biden a signalé des risques tels que les contenus falsifiés.

Plus tôt cette année, Google a ajouté un système appelé filigrane numérique SynthID pour toutes les photos retouchées à l'aide de l'outil AI Reimagine dans l'application Photos. Le filigrane n'est pas visible et ne peut pas être vu par les yeux humains, mais les machines peuvent détecter et vérifier leurs origines IA. La technologie a été créée par Google DeepMind.

D’autres sociétés d’IA ont également adopté une approche consistant à ajouter la divulgation de l’IA aux métadonnées des images. Google affichera même ces détails dans la recherche. Tout cela semble être une démarche de divulgation équitable, mais la mise en œuvre devrait être une voie à double sens.

J'ai essayé de supprimer le filigrane de l'ensemble d'images avec d'autres modèles d'IA, mais Claude d'Anthropic et ChatGPT d'OpenAI ont explicitement rejeté la demande, citant les lois sur les droits d'auteur et les politiques d'utilisation équitable. Gemini, en revanche, a supprimé les filigranes et n'a même pas fourni de clause de non-responsabilité ou d'avertissement.

Un peu d'histoire intéressante

En 2017, une équipe de chercheurs de Google a créé un algorithme capable de supprimer les filigranes d'origine et institutionnels des images. Leurs travaux , qui ont essentiellement permis d'identifier un modèle dans les habitudes de tatouage, ont été détaillés lors de la conférence Computer Vision and Pattern Recognition.

"Nous avons révélé une faille dans la manière dont les filigranes visibles sont utilisés, ce qui permet de les supprimer automatiquement et de récupérer les images originales avec une grande précision", indique le document de recherche. "L'attaque exploite la cohérence du filigrane sur de nombreuses images et n'est pas limitée par la complexité du filigrane ou sa position dans les images."

L’outil a été testé sur des images appartenant à des bases de données de photographies bien connues dans un large éventail de catégories telles que l’alimentation, la nature et la mode. L’ensemble du système en plusieurs étapes reposait sur des techniques de détection, de matage, de reconstruction, de décomposition et de factorisation de mélange.

Il convient toutefois de noter que l’algorithme a été testé pour mettre en évidence les failles des pratiques de filigrane existantes qui prévalent dans l’industrie. L’idée était de susciter un débat et d’améliorer la sécurité des filigranes. Avec Gemini, nous recherchons un outil accessible à tous sans aucun codage ni savoir-faire technique requis.

La route à suivre

Il va sans dire que supprimer les filigranes d’une image est un grand non-non pour diverses raisons. En plus de violer les lois locales, cela enlève au travail acharné des artistes et des photographes, qui sont déjà confrontés à une bataille difficile parce que leur matériel a été utilisé pour former l'IA à leur insu et sans les payer pour cela.

Mais les batailles judiciaires ne sont pas les seules à susciter des inquiétudes. Les outils d’IA générative sont largement adoptés, au prix de la perte de leurs moyens de subsistance pour les travailleurs humains. Par exemple, Marvel a utilisé l’imagerie de l’IA pour créer la séquence de générique d’ouverture de l’émission télévisée Secret Invasion .

Il y a un peu plus d'un mois, Microsoft a lancé un outil appelé Muse AI , capable de générer des clips de gameplay. La société affirme que Muse a été développé « pour soutenir efficacement les créatifs humains », mais nous ne pouvons pas vraiment voir l'attrait humain dans l'ensemble du discours .

Nous ne savons pas vraiment si Gemini supprimant les filigranes des images protégées par le droit d'auteur est un bug. Cependant, nous espérons qu'il s'agit d'un faux pas et que le cadre d'édition d'images sous-jacent sera corrigé pour garantir qu'il puisse même bloquer les solutions de contournement.

Digital Trends a contacté Google pour obtenir des commentaires et mettra à jour cette histoire dès que nous aurons une réponse.