L’IA de détection des discours haineux de Facebook porte ses fruits
Facebook améliore son efficacité pour reconnaître et supprimer les contenus haineux. Le rapport sur l'application des normes communautaires de la plateforme montre une réduction significative de la prévalence des discours de haine au dernier trimestre de 2020.
Le discours de haine sur Facebook a chuté
Dans le rapport sur l'application des normes communautaires de Facebook d'octobre à décembre 2020, la plate-forme a révélé des améliorations majeures dans la manière dont Facebook gère les discours de haine. Guy Rosen, vice-président de l'intégrité de Facebook, a publié un article sur le blog About Facebook pour souligner son succès.
Pour 10 000 vues de contenu de Facebook, sept à huit seulement étaient des vues de contenu haineux. Facebook a également pris des mesures contre 6,3 millions de publications sur l'intimidation et le harcèlement, une augmentation par rapport aux 2,5 millions de publications au troisième trimestre.
La plateforme a également pu capturer 6,4 millions de contenus haineux organisés, ce qui représente une amélioration considérable par rapport aux quatre millions de contenus supprimés par Facebook au cours du trimestre précédent.
Le rapport sur l'application des normes communautaires a montré des améliorations similaires sur Instagram. Cinq millions de publications relatives au harcèlement et à l'intimidation ont été supprimées sur Instagram, ainsi que 6,6 millions de contenus contenant des discours de haine et 308 000 éléments de contenu de haine organisé. Tous ces chiffres dépassent les statistiques enregistrées au troisième trimestre.
Le taux proactif de Facebook, également connu sous le nom de quantité de contenu que Facebook supprime avant qu'un utilisateur ne le signale, s'est également amélioré. Pour l'intimidation et le harcèlement, le taux proactif de la plate-forme est passé de 26% à 49% sur Facebook et de 55% à 80% sur Instagram.
L'IA de détection de haine de Facebook a joué un rôle majeur dans la stimulation de sa réponse aux discours de haine. Rosen note que la plate-forme a apporté des améliorations à son IA "où la nuance et le contexte sont essentiels, comme le discours de haine ou l'intimidation et le harcèlement", ce qui a finalement contribué à réduire la quantité de contenu haineux sur Facebook.
Mike Schroepfer, directeur de la technologie de Facebook, a publié un article séparé sur le blog À propos de Facebook pour célébrer les réalisations de l'IA en constante amélioration de Facebook. Malgré ses récentes réalisations, Schroepfer espère que l'intelligence artificielle de Facebook pourra s'améliorer «pour visualiser le contenu en contexte dans toutes les langues, cultures et zones géographiques».
L'IA de Facebook devient plus intelligente
Facebook a commencé à s'appuyer davantage sur son système d'IA pour aider à évaluer le contenu haineux en raison de la pandémie COVID-19 en cours. Rosen a noté que l'équipe Facebook sera probablement encore affectée par la pandémie "jusqu'à ce qu'un vaccin soit largement disponible".
Même si les modérateurs de Facebook retourneront un jour au travail normalement, il ne semble pas que l'IA de la plate-forme aille nulle part. Facebook n'a fait que rendre son IA plus intelligente et plus efficace, et il ne semble pas que Facebook envisage d'arrêter de progresser de sitôt.