Character.AI tente d’apaiser les parents inquiets avec une nouvelle fonctionnalité
Character.AI , le service de chatbot IA populaire, a ajouté Parental Insights, une nouvelle fonctionnalité de sécurité qui fournit aux parents des rapports sur l'activité de leurs enfants sur la plateforme.
La nouvelle mesure de sécurité, annoncée mardi par la société dans un article de blog , donne aux parents un aperçu hebdomadaire de la façon dont leurs adolescents passent leur temps sur Character.AI. Plus précisément, Parental Insights leur indiquera le temps moyen quotidien passé par leurs enfants sur l'application, les personnages avec lesquels ils parlent le plus souvent et le temps passé avec chaque personnage. Cependant, l’aperçu ne divulguera pas le contenu des conversations du chatbot, car elles sont privées.
Les utilisateurs adolescents de moins de 18 ans ont la possibilité de partager leurs statistiques Character.AI avec leurs parents ou tuteurs dans les paramètres de l'application. en ajoutant simplement leurs adresses e-mail et en leur envoyant une invitation à les consulter. Les parents ne sont pas tenus d'avoir un compte Character.AI pour consulter les statistiques d'utilisation hebdomadaires de leurs adolescents.
Parental Insights fait partie d'une série de fonctionnalités ajoutées pour répondre aux préoccupations des parents concernant le fait que les enfants passent trop de temps sur Character.AI et de multiples poursuites alléguant le contenu préjudiciable auquel ils ont été exposés sur le service, allant du contenu sexuel inapproprié aux messages encourageant l'automutilation . En réponse à ces plaintes, Character.AI a mis à jour la plate-forme pour déplacer les utilisateurs mineurs vers un modèle d'IA conçu pour ne pas fournir de contenu sensible ou suggestif , détecter et intervenir si quelque chose que les utilisateurs font enfreint les directives du service et leur envoyer des notifications s'ils ont passé une heure sur Character.AI. Ils ont même mis en place une clause de non-responsabilité dans le chat et sur leurs listes de marchés d'applications pour rappeler aux utilisateurs que les personnages IA avec lesquels ils interagissent ne sont pas réels et que tout ce qu'ils disent est inventé.
Parents, si vous voyez un e-mail de Character.AI concernant une invitation de votre adolescent à consulter ses statistiques d'activité sur une base hebdomadaire dans les prochains jours, considérez cela comme un signe de confiance. Leurs rapports peuvent vous apporter une certaine tranquillité d'esprit en sachant qu'ils ont besoin de vos conseils sur la façon dont ils peuvent utiliser judicieusement leur temps sur l'application.