Les utilisateurs de Twitter découvrent un biais racial potentiel dans l’algorithme de recadrage automatique

Twitter tente de déterminer pourquoi sa fonction d'aperçu des photos montre des signes de préjugé racial. Plusieurs utilisateurs ont constaté que les visages noirs étaient plus susceptibles d'être coupés des aperçus de photos que les visages blancs.

Lorsque vous voyez une image sur Twitter, ce n'est qu'un aperçu — vous devez cliquer dessus pour voir l'image entière. Twitter utilise un algorithme pour recadrer les photos, dictant ce que vous verrez dans les aperçus d'image.

En 2018, Twitter a annoncé sa fonction de recadrage automatique intelligent dans un article sur le blog Twitter . Cette fonction utilise la «saillance» pour affiner les parties les plus importantes des photos, puis recadre les aperçus des photos en conséquence.

Les utilisateurs de Twitter ont découvert que le réseau de neurones de la plate-forme pouvait avoir un biais racial. Un utilisateur a publié une photo du sénateur américain Mitch McConnell aux côtés de l'ancien président Barack Obama.

L'aperçu de l'image rogne de manière flagrante le visage d'Obama, même lorsque son visage est placé en haut de la photo. Lorsque le même utilisateur a essayé d'inverser les couleurs de l'image, le visage d'Obama est finalement apparu dans l'aperçu de l'image.

D'autres utilisateurs ont commencé à mener leurs propres expériences. À maintes reprises, les utilisateurs ont constaté que l'algorithme semblait toujours préférer les visages blancs aux visages noirs.

Liz Kelley, membre de l'équipe de communication Twitter, a envoyé un Tweet en réponse aux conclusions des utilisateurs de Twitter. Elle a noté que si l'équipe de Twitter a déjà testé l'algorithme pour détecter les biais, elle devrait enquêter plus avant.

Toutes ces découvertes provenaient du Tweet d'un utilisateur sur un problème d'appel Zoom . Zoom n'a pas réussi à détecter le visage de son ami noir quand il a essayé d'utiliser un arrière-plan virtuel. Lorsque l'utilisateur s'est tourné vers Twitter pour publier des captures d'écran du problème, Twitter a coupé son ami noir de l'aperçu de l'image.

Si toutes ces expériences sont informelles, elles semblent mettre en évidence un réel problème. Twitter devra certainement examiner de plus près sa fonction de recadrage automatique et voir s'il a un préjugé racial enraciné.

Cela dit, l'algorithme de recadrage automatique de Twitter n'est pas la seule fonctionnalité de Twitter qui a été critiquée. Après tout, de nombreux utilisateurs ne sont pas non plus fans de l'algorithme de la plate-forme qui organise automatiquement votre flux.