Le contrôle parental de ChatGPT semble excellent, mais il y a un problème
Ces derniers mois, OpenAI a essuyé de vives réactions suite à une série d'événements où des conversations avec ChatGPT ont entraîné une tragédie humaine . Face à ces incidents et à la menace imminente d'une réglementation sur les chatbots IA , OpenAI a finalement déployé le contrôle parental promis , qui permettrait aux parents de garantir la sécurité des interactions de leurs enfants.
Quel est le grand changement ?
La première ligne de défense est la sécurité du contenu. OpenAI indique que les parents auront la possibilité d'« ajouter des mesures de protection supplémentaires pour protéger les adolescents, comme le contenu explicite et les défis viraux ». De plus, ils pourront également activer ou désactiver la mémoire du chatbot, qui lui permet de mémoriser les conversations précédentes.
Les parents pourront ensuite définir une plage horaire d'utilisation en définissant des « heures creuses » pendant lesquelles ChatGPT sera inaccessible. Enfin, les tuteurs pourront désactiver le mode conversationnel, et même désactiver la création et la retouche d'images.
Notamment, les parents ne pourront pas consulter les conversations des adolescents. Cependant, dans les rares cas où le système détectera des « signes de risque grave pour la sécurité », ils en seront avertis . OpenAI a également lancé une page de ressources complète contenant des instructions et des conseils pour configurer le contrôle parental.
Le problème ouvert
Pour activer les contrôles de sécurité mentionnés ci-dessus, les parents doivent associer leurs comptes à ceux de leurs enfants adolescents sur ChatGPT. Pour ce faire, ils peuvent envoyer un lien d'invitation par e-mail ou SMS.
Une fois le lien accepté par l'adolescent pour connecter les comptes, les tuteurs peuvent configurer les contrôles de sécurité mentionnés ci-dessus. Cependant, n'oubliez pas que ce processus est entièrement volontaire et que les adolescents peuvent choisir de dissocier leurs comptes et de mettre fin à la supervision à tout moment.
Les parents seront informés de l'étape de désactivation, note OpenAI. Le plus grand problème réside dans le fait que les jeunes utilisateurs peuvent facilement contourner ces limitations en créant un autre compte pour utiliser ChatGPT sans aucune restriction. De plus, si leurs parents surveillent les comptes utilisateurs enregistrés sur un téléphone, les adolescents peuvent simplement se connecter avec un compte temporaire et utiliser la version web.