TikTok licencie des centaines de modérateurs d’IA tandis qu’Instagram blâme les humains pour ses propres problèmes
ByteDance, la société à l'origine de la plateforme de médias sociaux vidéo TikTok , aurait licencié des centaines de modérateurs de contenu humain dans le monde entier alors qu'elle passait à un système de modération axé sur l'IA.
La plupart des quelque 500 emplois perdus se trouvaient en Malaisie, rapporte Reuters . Selon l'entreprise, ByteDance emploie plus de 110 000 personnes au total. "Nous apportons ces changements dans le cadre de nos efforts continus pour renforcer davantage notre modèle opérationnel mondial en matière de modération de contenu", a déclaré un porte-parole de TikTok dans un communiqué.
L'entreprise utilise actuellement un mélange de modérateurs de contenu humains et IA, les machines gérant environ 80 % du travail. ByteDance prévoit d'investir quelque 2 milliards de dollars dans ses efforts de confiance et de sécurité en 2024. Les licenciements surviennent alors que ByteDance fait face à une surveillance réglementaire accrue dans le pays, qui a connu cette année une augmentation des publications nuisibles sur les réseaux sociaux et de la désinformation.
Aux États-Unis, le directeur d'Instagram, Adam Mosseri, a annoncé vendredi que la récente vague de blocages de comptes d'utilisateurs sur Instagram et Threads , le déclassement de publications et leur marquage comme spam étaient le produit d'erreurs commises par des modérateurs humains, plutôt que par le système de modération de l'IA de l'entreprise. Il affirme que les employés « passaient des appels sans connaître le contexte du déroulement des conversations, ce qui était un échec ».
Cependant, les humains n’étaient pas entièrement responsables, a précisé Mosseri. "L'un des outils que nous avons construits est tombé en panne", a-t-il concédé, "il ne leur montrait donc pas suffisamment de contexte."
Au cours des derniers jours, les utilisateurs des deux sites ont vu leurs comptes verrouillés puis désactivés pour violation des restrictions d'âge des plateformes, qui empêchent les personnes de moins de 13 ans d'avoir leur propre compte. Selon The Verge , ces comptes sont restés verrouillés même après que les utilisateurs ont téléchargé la vérification de leur âge.
Les relations publiques de l'entreprise se sont séparées de la position de Mosseri, déclarant à TechCrunch que "tous les problèmes rencontrés par les utilisateurs d'Instagram n'étaient pas liés aux modérateurs humains". Selon le PR, le problème de la vérification de l'âge fait toujours l'objet d'une enquête.