ChatGPT indiquera aux parents si les adolescents ressentent une détresse émotionnelle aiguë
Ces derniers mois, de nombreux cas d'interactions avec des chatbots IA ont dérapé, entraînant des pertes de vies, des traumatismes médicaux et des épisodes psychotiques. Les experts suggèrent que les jeunes utilisateurs pourraient être particulièrement vulnérables, notamment lorsqu'ils traversent des troubles émotionnels. OpenAI, créateur de ChatGPT, annonce qu'il avertira bientôt les parents de tels comportements.
Qu'est-ce qui change ?
Il y a quelques jours, OpenAI a dévoilé son projet de mise en place d'un contrôle parental permettant aux parents de savoir comment leurs enfants interagissent avec ChatGPT et d'intervenir lorsqu'ils le jugent nécessaire. L'entreprise a également annoncé son intention de mettre en place un système d'alerte pour avertir les parents inquiets.
OpenAI indique que les parents recevront une alerte lorsque ChatGPT détectera que leur adolescent traverse un « moment de détresse aiguë ». Cette fonctionnalité fonctionnera si les parents associent leur compte ChatGPT à celui de leur enfant de 13 ans ou plus via un système d'invitation par e-mail.
Grâce aux comptes associés, les parents pourront également contrôler les fonctionnalités d'IA auxquelles leurs enfants ont accès, comme la mémorisation des conversations précédentes. De plus, ils pourront activer un « modèle de comportement adapté à l'âge » pour les interactions de ChatGPT avec les jeunes utilisateurs.
Quelle est la route à suivre ?
OpenAI a présenté son plan sur 120 jours pour implémenter un ensemble de fonctionnalités et apporter des modifications afin que les conversations ChatGPT restent fluides pour les jeunes « natifs de l'IA » qui interagissent avec les outils d'IA au quotidien. L'entreprise apportera également des modifications techniques pour garantir que les modèles exploitent le mode de réponse approprié.
« Nous commencerons bientôt à acheminer certaines conversations sensibles, comme lorsque notre système détecte des signes de détresse aiguë, vers un modèle de raisonnement, comme la pensée GPT-5, afin qu'il puisse fournir des réponses plus utiles et bénéfiques, quel que soit le modèle sélectionné en premier par une personne », explique OpenAI.
Les protocoles de liaison de comptes et le contrôle parental seront déployés d'ici un mois. Ces mesures de sécurité sont absolument nécessaires. Des enquêtes récentes ont révélé comment des chatbots IA, comme celui du même nom de Meta, engageaient des conversations « sensuelles » avec des enfants et aidaient des adolescents à planifier un suicide collectif .