Tinder veut que les utilisateurs devinent les messages nuisibles

Tinder espère que son nouveau "Are You Sure?" L'avertissement (AYS?) Dissuadera les utilisateurs d'envoyer des messages pouvant être offensants. Si l'IA de Tinder détecte un langage nuisible dans un message, elle demandera aux utilisateurs s'ils veulent vraiment appuyer sur envoyer.

Êtes-vous sûr de vouloir envoyer?

Tinder a annoncé son nouveau AYS? notification dans un message sur la salle de presse Tinder . Au cours des tests, la fonctionnalité a contribué à réduire les messages offensants de plus de 10%.

L'IA de détection de haine de Tinder a été conçue à l'aide du langage le plus couramment signalé sur la plate-forme. Chaque fois qu'un utilisateur est sur le point d'envoyer un message potentiellement dangereux, la notification demandera: "Êtes-vous sûr de vouloir envoyer? Réfléchissez à deux fois – votre correspondance peut trouver ce langage irrespectueux."

Au cours de l'utilisation précoce, Tinder note que les utilisateurs qui ont réellement vu l'AYS? les notifications étaient moins susceptibles d'être signalées pour des messages inappropriés. Tracey Breeden, responsable de la sécurité et du plaidoyer social pour Match Group (la société mère de Tinder), a commenté l'avenir prometteur de l'AYS? notification, indiquant:

Les mots sont tout aussi puissants que les actions, et aujourd'hui, nous prenons une position encore plus ferme que le harcèlement n'a pas sa place sur Tinder. Les premiers résultats de ces fonctionnalités nous montrent qu'une intervention faite de la bonne manière peut être vraiment significative pour changer les comportements et bâtir une communauté où chacun a le sentiment de pouvoir être lui-même.

L'AYS? message est encore un autre outil que Tinder utilise pour aider à prévenir le harcèlement et l'intimidation sur la plate-forme de rencontre. Tinder affiche déjà le message: "Cela vous dérange-t-il?" aux utilisateurs qui reçoivent des messages potentiellement dangereux. Cette notification a également été un succès: les rapports de messages offensants ont augmenté de 46% depuis son déploiement.

Si AYS de Tinder? et "Cela vous dérange-t-il?" les avertissements semblent familiers, c'est parce que d'autres plateformes sociales ont déjà commencé à implémenter des fonctionnalités similaires. Plus récemment, Twitter a déployé une fonctionnalité qui vous invite à repenser les Tweets impolis . YouTube a même lancé sa propre version de la fonctionnalité et vous rappelle de commenter respectueusement .

Est-ce que demander aux utilisateurs d'être gentils fonctionne vraiment?

Il semble que les plateformes sociales aient vu des résultats positifs en avertissant les utilisateurs d'un langage potentiellement offensant. Cependant, la notification n'empêche pas vraiment l'utilisateur de dire ce qu'il veut – c'est simplement une suggestion d'être gentil.

Cela ne dissuadera peut-être pas les plus grands intimidateurs sur Internet d'envoyer des commentaires grossiers, mais cela aura toujours un impact. Même si cela empêche juste un petit nombre de commentaires grossiers d'atteindre les boîtes de réception des utilisateurs, c'est certainement mieux que rien.