Twitter révèle qu’il a abandonné les cultures d’IA en raison de la race et du sexe
La première fois que nous avons entendu l'idée que l'algorithme de recadrage d'images de Twitter pouvait avoir des biais, c'était en septembre 2020. L'ingénieur en cryptographie Tony Arcieri a téléchargé deux images montrant le chef de la majorité au Sénat Mitch McConnell et l'ancien président Barack Obama, et l'IA a recadré le visage de McConnell les deux fois. .
Lorsque la controverse a finalement atteint les gens de Twitter, la société a promis d'analyser son modèle. Enfin, nous lisons ces résultats.
Twitter partage les résultats de son analyse algorithmique
Début mai, Twitter a finalement déployé des aperçus d'images en taille réelle sur ses chronologies mobiles. Un article sur le blog Twitter a révélé que l'application avait supprimé son algorithme de recadrage d'image après qu'une analyse ait montré qu'elle avait des préjugés raciaux et sexistes.
La plate-forme a commencé à utiliser un algorithme de saillance en 2018 pour recadrer ses images. Twitter dit que les modèles de saillance sont formés sur des données de suivi de l'œil humain, qui sont ensuite utilisées par l'algorithme pour estimer les sujets / éléments de l'image qui, selon lui, sont les plus susceptibles d'être importants pour la plupart des gens.
L'algorithme proposerait alors un score de saillance pour toutes les parties de l'image avant de choisir le point avec le score le plus élevé pour être le centre de la culture.
Après avoir effectué un test quantitatif pour vérifier les biais potentiels, l'équipe a constaté que l'algorithme de saillance semblait favoriser les femmes par rapport aux hommes et les individus blancs par rapport aux individus noirs.
Twitter a également testé l'algorithme pour le «regard masculin», mais aucune preuve de biais d'objectivation n'a été trouvée.
Même si l'algorithme de saillance a été ajusté pour refléter une égalité parfaite entre les sous-groupes de race et de sexe, nous [Twitter] sommes préoccupés par le préjudice de représentation de l'algorithme automatisé lorsque les gens ne sont pas autorisés à se représenter comme ils le souhaitent sur la plate-forme. La saillance présente également d'autres préjudices potentiels au-delà de la portée de cette analyse, notamment l'insensibilité aux nuances culturelles.
En considérant les compromis entre la vitesse et la cohérence du recadrage automatisé et ses risques, Twitter affirme que son équipe s'est rendu compte que la manière de recadrer une image est une décision qui est mieux prise par les gens et non par les algorithmes.
Twitter se débarrasse du recadrage automatique des images
Twitter n'utilise plus l'algorithme de saillance et affiche désormais les photos au format standard dans leur intégralité sur iOS et Android. Lors de la création d'un tweet, vous constaterez que la nouvelle mise à jour comprend également un véritable aperçu des images téléchargées, afin que vous sachiez à quoi ressemblera tout une fois publié.
Si vous souhaitez lire l'article académique de l'étude, vous pouvez le trouver sur arXiv.org . Vous pouvez également trouver le code de Twitter pour l'analyse sur GitHub .