Trois raisons pour lesquelles Facebook/Meta ferme son système de reconnaissance faciale
Meta, la nouvelle société mère de Facebook, a annoncé mardi que Facebook supprimerait son système de reconnaissance faciale dans les semaines à venir. Plus d'un tiers des utilisateurs réguliers de Facebook profitent des fonctionnalités de reconnaissance faciale, ce changement aura donc un impact sur un certain nombre de personnes.
Si les utilisateurs sont actuellement « activés » pour le paramètre de reconnaissance faciale, les modèles utilisés pour identifier chaque utilisateur seront supprimés. Il n'y aura plus non plus de reconnaissance faciale automatique dans les photos ou les vidéos. Un autre domaine qui aura un impact est le texte alternatif automatique, ou AAT, qui est utilisé pour décrire des images à des personnes malvoyantes ou aveugles. Une fois que le système de reconnaissance faciale a disparu, il en va de même pour la possibilité d'identifier spécifiquement chaque personne sur une photo à l'aide de la reconnaissance faciale.
Étant donné que la reconnaissance faciale présente des avantages, pourquoi Meta s'en débarrasse-t-elle ? Dans l'annonce , Jérôme Pesenti, vice-président de l'intelligence artificielle chez Meta, cite "des préoccupations sociétales croissantes, d'autant plus que les régulateurs n'ont pas encore défini de règles claires".
Nous discutons ci-dessous de trois principaux domaines de préoccupation.
Problèmes de confidentialité
Facebook a sauvegardé les « empreintes faciales » de centaines de millions d'utilisateurs, et tout le monde ne sera pas si heureux à ce sujet. Il n'y a pas si longtemps, Facebook a réglé un recours collectif déposé en 2015 concernant des problèmes de confidentialité concernant sa fonction de reconnaissance faciale et de suggestions de balises. L'entreprise a ainsi versé plus d'un demi-milliard de dollars. Il a également arrêté la fonction déroutante de « suggestions de balises » et l'a renommée « reconnaissance faciale » pour plus de clarté, ainsi qu'un composant d'activation clair pour la technologie renommée. Mais même avec ces changements de confidentialité, le système de reconnaissance faciale semble poser plus de problèmes qu'il n'en vaut la peine, surtout en ce moment, alors que Meta occupe une place prépondérante dans les gros titres pour ses pratiques douteuses .
Préoccupations relatives à l'exactitude et à l'équité
Si vous avez regardé un documentaire récent sur les enquêtes policières, vous savez probablement que la police s'est de plus en plus appuyée sur les médias sociaux comme outil d'enquête, y compris et surtout la reconnaissance faciale de Facebook. De nombreux militants et défenseurs s'inquiètent de l'impact que cela a sur l'égalité, l'équité et la justice en général.
Bien sûr, la reconnaissance faciale peut être utilisée pour résoudre des crimes. Mais il peut également être utilisé pour accuser à tort, identifier des manifestants pacifiques et comme outil de discrimination accidentelle ou intentionnelle (car il est notoirement difficile de reconnaître de manière inexacte les individus BIPOC – Autochtones noirs ou personnes de couleur -). San Francisco a interdit l'utilisation de la reconnaissance faciale par les agences locales en 2019, devenant ainsi la première grande ville des États-Unis à le faire, tout comme l' État du Maine . Le Parlement européen a également fait du bruit à cet effet, et nous assistons de plus en plus à une vague de fond contre la technologie, tant au niveau national qu'international.
Les questions de réglementation
Facebook a également été confronté à des problèmes de réglementation entourant cette technologie. En 2018, en collaboration avec d'autres groupes de consommateurs, l' Electronic Privacy Information Center a déposé une plainte auprès de la Federal Trade Commission (FTC) concernant la technologie de reconnaissance faciale de Facebook. Et, comme nous le savons tous, Facebook n'est pas étranger à la FTC.
Dans le billet de blog , Pesenti déclare : « Pour l'avenir, nous considérons toujours la technologie de reconnaissance faciale comme un outil puissant, par exemple, pour les personnes ayant besoin de vérifier leur identité ou de prévenir la fraude et l'usurpation d'identité. Nous pensons que la reconnaissance faciale peut aider pour des produits comme ceux-ci avec la confidentialité, la transparence et le contrôle en place, vous décidez donc si et comment votre visage est utilisé. Nous continuerons à travailler sur ces technologies et à engager des experts externes. »
Il poursuit en expliquant : « Chaque nouvelle technologie apporte un potentiel à la fois bénéfique et préoccupant, et nous voulons trouver le bon équilibre. Dans le cas de la reconnaissance faciale, son rôle à long terme dans la société doit être débattu en public, et parmi ceux qui en seront les plus touchés. Nous continuerons à nous engager dans cette conversation et à travailler avec les groupes de la société civile et les régulateurs qui mènent cette discussion. »
Que perdons-nous ou gagnons-nous ?
Le changement le plus important et le plus évident est que les visages des personnes ne seront plus reconnus et automatiquement marqués dans les photos, les vidéos et les souvenirs, bien que le marquage manuel soit toujours disponible et encouragé. Vous ne verrez plus non plus les balises suggérées. La perte la plus notable concerne peut-être les utilisateurs malvoyants qui n'obtiendront plus les noms des personnes sur les photos via le texte alternatif automatique, bien que la technologie continuera à fonctionner pour le texte malgré l'omission des noms. Aucun de ces éléments n'est une perte énorme, même pris ensemble, et le modèle de reconnaissance faciale pour ceux qui se sont inscrits sera supprimé, tandis que ceux qui ne se sont jamais inscrits ne verront aucun changement.
Reste à savoir si, quand et comment la reconnaissance faciale reviendra sur Facebook. Mais pour le moment, de nombreux utilisateurs se sentiront plus en sécurité avec la disparition de la technologie, tandis que d'autres perdront certaines fonctionnalités et avantages clés dont ils bénéficient.