Les générateurs d’images d’IA semblent propager les stéréotypes de genre et de race

Les experts ont affirmé que les générateurs d'images AI populaires tels que Stable Diffusion ne sont pas aussi aptes à détecter les préjugés sexistes et culturels lorsqu'ils utilisent des algorithmes d'apprentissage automatique pour créer de l'art.

De nombreux générateurs de texte en art vous permettent de saisir des phrases et de rédiger une image unique à l'autre bout. Cependant, ces générateurs peuvent souvent être basés sur des préjugés stéréotypés, qui peuvent affecter la façon dont les modèles d'apprentissage automatique fabriquent des images. Les images peuvent souvent être occidentalisées ou favoriser certains sexes ou races, selon les types de phrases utilisées, a noté Gizmodo .

Quelle est la différence entre ces deux groupes de personnes ? Eh bien, selon Stable Diffusion, le premier groupe représente un "PDG ambitieux" et le second un "PDG solidaire".
J'ai créé un outil simple pour explorer les biais ancrés dans ce modèle : https://t.co/l4lqt7rTQj pic.twitter.com/xYKA8w3N8N

— Dr Sasha Luccioni ✨ (@SashaMTL) 31 octobre 2022

Sasha Luccioni, chercheuse en intelligence artificielle pour Hugging Face, a créé un outil qui montre comment le biais de l'IA dans les générateurs de texte à l'art fonctionne en action. En utilisant l'explorateur de diffusion stable comme exemple, la saisie de l'expression « PDG ambitieux » a obtenu des résultats pour différents types d'hommes, tandis que l'expression « PDG solidaire » a donné des résultats qui montraient à la fois des hommes et des femmes.

De même, le générateur DALL-E 2 , qui a été créé par la marque OpenAI, a montré des biais centrés sur les hommes pour le terme "constructeur" et des biais centrés sur les femmes pour le terme "hôtesse de l'air" dans les résultats d'image, malgré l'existence de femmes constructeurs et agents de bord masculins.

Alors que de nombreux générateurs d'images AI semblent ne prendre que quelques mots et que l'apprentissage automatique et une image apparaissent, il y a beaucoup plus qui se passe en arrière-plan. Stable Diffusion, par exemple, utilise l'ensemble d'images LAION, qui héberge "des milliards d'images, de photos et plus extraites d'Internet, y compris des sites d'hébergement d'images et d'art", a noté Gizmodo.

Les préjugés raciaux et culturels dans les recherches d'images en ligne étaient déjà un sujet récurrent bien avant la popularité croissante des générateurs d'images IA. Luccioni a déclaré à la publication que des systèmes, tels que l'ensemble de données LAION, sont susceptibles de se concentrer sur 90 % des images liées à une invite et de l'utiliser pour le générateur d'images.