TikTok veut peaufiner son algorithme pour éviter les contenus problématiques

TikTok a annoncé aujourd'hui qu'il déploierait des fonctionnalités de personnalisation supplémentaires dans son flux "Pour vous", la page vidéo à défilement sans fin qui a rendu l'application si populaire. La société a reconnu dans un communiqué publié aujourd'hui que son algorithme prédictif pourrait renforcer les expériences négatives en répétant des vidéos sur des sujets émotionnellement volatiles, comme les ruptures.

TikTok est devenu populaire grâce à la force de son algorithme. À la limite de la prescience, l'application recommanderait aux utilisateurs des vidéos qui correspondaient si étroitement à leurs goûts, qu'elle prétendait même prédire la sexualité de personnes qui n'en avaient pas conscience elles-mêmes. Dans le même temps, la tendance de l'algorithme à vous donner plus de ce qui vous intéresse peut conduire à des résultats négatifs si ce qui vous intéresse a un effet négatif sur votre vie.

Pour revenir à l'exemple de la rupture, TikTok souligne qu'une personne qui a récemment rompu avec un partenaire pourrait finir par être inondée par plusieurs vidéos de rupture sur son fil, renforçant les émotions négatives. C'est un problème avec lequel d'autres plateformes de médias sociaux ont été confrontées et qu'aucune n'a encore résolu efficacement. L'approche de TikTok ne se contentera pas de bannir en gros un tel contenu du site. Il examinera la variation de la fréquence d'affichage de ces vidéos sur le flux, afin qu'elles ne se « regroupent » pas et soient entrecoupées de vidéos sans rapport.

« Nous nous efforçons également de déterminer si notre système ne recommande par inadvertance que des types de contenu très limités qui, bien qu'ils ne violent pas nos politiques, pourraient avoir un effet négatif s'il s'agit de la majorité de ce que quelqu'un regarde, comme du contenu sur la solitude ou perte de poids. Notre objectif est que le flux For You de chaque personne présente un large éventail de contenus, de créateurs et de sujets », a déclaré l'équipe de TikTok, en consultant des experts dans des domaines allant de la psychologie à l'éthique de l'IA.

La société va également maintenant étendre ses fonctionnalités de conservation (principalement un bouton non intéressé pour le moment) avec un nouvel outil pour "aider les gens à personnaliser leur alimentation – que ce soit pour un végétarien qui veut voir moins de recettes de viande, ou quelqu'un qui travaille sur l'estime de soi qui préférerait voir moins de tutoriels beauté.

On ne sait pas encore quand ce nouvel outil sera disponible, mais nous vous tiendrons au courant lorsque nous en saurons plus.