L’IA de Facebook s’attaque à l’augmentation du contenu haineux

La technologie sophistiquée d'intelligence artificielle (IA) de Facebook a permis à la plate-forme d'éliminer plus de discours de haine que jamais. Son IA de détection de haine a réussi à capturer 95% des contenus haineux au troisième trimestre de 2020.

Le rôle de l'IA dans la guerre contre le discours de haine

Le dernier rapport sur l'application des normes communautaires de Facebook a révélé le rôle majeur de l'IA dans la lutte contre le discours de haine sur la plate-forme.

Au cours du troisième trimestre de 2020, Facebook a réussi à "détecter de manière proactive" environ 95% des discours de haine. Au total, Facebook a supprimé 22,1 millions de contenus haineux sur Facebook et 6,5 millions de contenus sur Instagram.

Il s'agit d'une augmentation majeure par rapport au dernier trimestre de 2017, une période où Facebook n'a détecté de manière proactive que 24% des discours de haine sur Facebook et Instagram.

Bien que la plate-forme utilise «une combinaison de rapports d'utilisateurs et de technologie» pour supprimer le contenu haineux, l'énorme saut a été largement attribué à l'IA avancée de Facebook.

Non seulement son IA aide à détecter et à prendre des mesures contre le contenu haineux avant même qu'il ne soit signalé, mais Facebook l'utilise également pour trier les contenus plus compliqués qui doivent être examinés. Facebook a en outre expliqué le rôle de l'IA, déclarant:

Que le contenu soit détecté ou signalé de manière proactive par les utilisateurs, nous utilisons souvent l'IA pour agir sur les cas simples et prioriser les cas les plus nuancés, où le contexte doit être pris en compte, pour nos examinateurs.

De plus, Facebook a également remarqué une augmentation de la prévalence des discours de haine au cours du troisième trimestre. Selon Facebook, il détermine «la prévalence du discours de haine en sélectionnant un échantillon de contenu vu sur Facebook, puis en étiquetant dans quelle mesure il enfreint nos politiques en matière de discours de haine».

Le rapport a montré que sur 10 000 vues du contenu de la plate-forme, 10 à 11 vues contenaient un discours de haine.

Comment Facebook définit-il le discours de haine?

Si vous vous demandez comment Facebook détermine exactement ce qui est et n'est pas un discours de haine, la plateforme ajuste en permanence sa définition. En août 2020, Facebook a mis à jour ses politiques en matière de discours de haine pour inclure les théories du complot antisémite et le blackface. Facebook note que "alors que la parole continue d'évoluer au fil du temps, nous continuons à réviser nos politiques pour refléter l'évolution des tendances sociales."

À l'heure actuelle, Facebook définit le discours de haine "comme tout ce qui attaque directement les gens en fonction de caractéristiques protégées, notamment la race, l'ethnie, l'origine nationale, l'appartenance religieuse, l'orientation sexuelle, le sexe, le genre, l'identité de genre ou un handicap ou une maladie grave".

À quoi s'attendre pour l'avenir

Tout au long de 2020, Facebook a fait face à un certain nombre de défis en ce qui concerne le contenu controversé.

En début d'année, la plateforme a dû lutter contre la désinformation sur la pandémie COVID-19. Plus tard, il a également dû traiter des informations trompeuses concernant l'élection présidentielle américaine. Cela a conduit la plate-forme à gifler des étiquettes sur certains messages, ou à les supprimer complètement.

Alors que l'IA de Facebook continue d'évoluer, nous ne pouvons que nous attendre à davantage de suppressions à l'avenir.