Microsoft distribue un outil de détection Deepfake
Étant donné à quel point les deepfakes sont à la fois potentiellement dévastateurs pour la réputation de quelqu’un et très difficiles à repérer lorsqu’ils sont bien faits, ils constituent un problème de sécurité majeur. Maintenant, Microsoft vise à aider à arrêter les deepfakes en publiant un outil capable de les détecter.
La menace posée par les deepfakes est si importante qu’elle a poussé Facebook à interdire tout contenu deepfake . Cependant, le plus gros obstacle est de savoir comment les deepfakes sont convaincants; en tant que tel, localiser et confirmer un deepfake est très difficile.
Comme indiqué sur Microsoft On the Issues , la société souhaite changer cela avec son nouvel outil. Il s’appelle Microsoft Video Authenticator, et il analyse les vidéos pour rechercher les «coutures» laissées par la création deepfake. Ces coutures sont invisibles aux yeux humains, mais un ordinateur peut les repérer à l’aide d’une analyse image par image.
Pour empêcher les agents malveillants de procéder à une ingénierie inverse de la technologie, Microsoft Video Authenticator ne sera pas une version publique. Au lieu de cela, Microsoft distribue son système aux organisations d’information et politiques. De cette façon, ces organisations peuvent utiliser l’outil pour séparer le réel du faux.
Cependant, Microsoft a annoncé une deuxième technologie pour identifier les deepfakes. L’entreprise propose un système dans lequel un créateur de contenu peut marquer ses vidéos avec une «signature» unique. Si la vidéo est éditée, elle générera une signature différente de l’original, identifiant ainsi un deepfake.
L’auteur de Deep Fakes et de l’Infocalypse, Nina Schick, a déclaré ce qui suit:
La seule utilisation vraiment répandue que nous ayons vue jusqu’à présent est la pornographie non consensuelle contre les femmes.
Mais les médias synthétiques devraient devenir omniprésents dans environ trois à cinq ans, nous devons donc développer ces outils à l’avenir.
Cependant, à mesure que les capacités de détection s’améliorent, la capacité de génération le sera également – Microsoft ne pourra jamais sortir un outil capable de détecter toutes sortes de manipulations vidéo.
Les deepfakes sont un problème important pour la crédibilité des médias, et les entreprises ont besoin d’un moyen de distinguer ce qui est réel de ce qui est fiction. Microsoft a publié un outil pour aider à repérer les vidéos éditées. Cependant, il reste à voir si l’outil sera suffisant pour suivre le rythme des développeurs deepfake.
Si vous n’êtes pas sûr de ce que sont les deepfakes et de leur importance, il vaut vraiment la peine de prendre le temps de les découvrir. Les Deepfakes sont en passe de devenir l’équivalent de cette décennie des images « Photoshopping » et peuvent causer de graves dommages s’ils sont utilisés de manière malveillante.