Ce jeu de science-fiction a prédit notre paysage actuel de l’IA il y a quatre ans

Comme beaucoup d'autres, je suis actuellement fasciné — et un peu terrifié — par les progrès rapides de l'IA . Bien que la technologie semble pouvoir être utilisée pour de bon, plusieurs applications me laissent inquiet. Les sites Web ont remplacé les écrivains humains par des robots sujets aux erreurs, Hollywood refuse de protéger son talent créatif de la technologie et les jeux générés par l'IA comme Sumner ont soulevé des drapeaux rouges sur le plagiat des robots. Bien que ce qui m'a le plus préoccupé ces derniers mois, c'est l'existence de la thérapie par l'IA.

Il existe actuellement une poignée de services disponibles qui automatisent la thérapie d'une manière ou d'une autre. Woebot est un "agent conversationnel automatisé" qui se positionne comme un outil personnel de santé mentale. Les utilisateurs peuvent s'y connecter tous les jours pour avoir de brèves conversations avec un chatbot qui enverra des conseils et des vidéos de bien-être. Wysa , d'autre part, associe les utilisateurs à la fois à un professionnel de la santé mentale humaine et à un coach en intelligence artificielle qui les aide à surmonter leurs émotions. Considérant à quel point la thérapie traditionnelle repose sur la connexion avec une personne réelle, l'idée de l'automatiser semble être une recette pour un désastre.

Il y a une raison pour laquelle tout cela m'intrigue particulièrement. C'est à cause d'un petit roman visuel appelé Eliza . Sorti en 2019, le joyau indépendant a discrètement prédit le passage troublant de l'IA dans l'espace de la santé mentale. C'est un excellent récit édifiant sur les complexités de l'automatisation de la connexion humaine, dont les entrepreneurs technologiques pourraient beaucoup apprendre.

Bienvenue à Élisa

Situé à Seattle, Eliza suit un personnage nommé Evelyn Ishino-Aubrey qui commence à travailler dans une nouvelle entreprise technologique créée par une mégacorporation fictive de type Apple appelée Skandha. La société a créé une application de conseil virtuelle, appelée Eliza, qui propose aux utilisateurs des séances de thérapie guidées par l'IA à un prix relativement abordable.

Eliza n'est pas seulement un chatbot sans visage. Afin de conserver l'élément humain de la thérapie en face à face, l'application utilise des mandataires humains qui s'assoient avec les clients en personne et lisent les réponses générées par le bot en temps réel. Skandha affirme que sa méthodologie est une science, il est donc interdit aux mandataires de s'écarter du script de quelque manière que ce soit. Ils sont simplement là pour ajouter un visage tangible aux conseils que la machine crache.

Le jeu résiste à l'envie de présenter cette idée comme un concept dystopique exagéré. Au lieu de cela, il opte pour un ton fondé sur le réalisme, un peu comme celui de Her de Spike Jonze . Cela lui permet de poser des questions sérieuses et nuancées sur l'automatisation des interactions humaines qui étaient en avance sur leur temps. L'histoire de cinq heures demande si une application d'IA comme celle-ci est un avantage net, rendant quelque chose d'aussi cher qu'une thérapie plus accessible, ou simplement une décision commerciale exploitante par une grande technologie qui échange l'interaction humaine contre des profits faciles.

Les joueurs explorent ces questions à travers les systèmes de roman visuel d' Eliza . L'interaction est minime ici, les joueurs choisissant simplement les options de dialogue pour Evelyn. Cela a cependant un impact majeur sur ses séances. Tout au long de l'histoire, Evelyn rencontre une poignée de clients récurrents abonnés au service. Certains sont simplement là pour monologuer sur le drame à faible enjeu de leur vie, mais d'autres viennent au service avec des problèmes plus graves. Quelle que soit la gravité de la situation individuelle, Eliza crache le même script plat à lire par Evelyn, posant des questions qui se répètent tout au long des séances et prescrivant des exercices de respiration et des médicaments.

Plus Evelyn s'investit dans la vie de ses clients, plus elle commence à voir les limites de la technologie. Certains des conseils d'Eliza ne sont pas une solution unique à tous les problèmes, et les clients les plus en difficulté commencent à demander l'aide d'un véritable humain. Les joueurs ont le choix de sortir du scénario et de laisser Evelyn prendre les choses en main, une décision qui a de sérieuses implications à la fois pour son travail et pour le bien-être de ses clients.

Ce n'est pas toujours la bonne réponse. Alors que certains de ses conseils donnent aux clients l'aide dont ils ont besoin, d'autres se retrouvent encore plus en spirale. Ses mots peuvent être déformés d'une manière à laquelle elle ne s'attendait pas, ce contre quoi l'algorithme sûr d'Eliza est conçu pour se protéger. Est-il plus sûr de s'en tenir au script stérilisé ou au moins d'essayer d'établir une véritable connexion ? Et une technologie comme celle-ci fait-elle finalement plus de mal qu'elle n'aide, ou vice versa?

Eliza ne répond pas à ces questions, laissant le soin aux joueurs de mâcher. C'est une interrogation réfléchie de la technologie moderne qui ne fait que devenir plus pressante compte tenu de l'émergence de services comme Wysa, qui sont dangereusement proches de la technologie fictive du jeu. Que vous soyez un partisan des outils d'IA comme ChatGPT ou fermement contre eux, Eliza fournira un récit édifiant sur les limites des machines et des humains.

Eliza est disponible sur PC et Nintendo Switch.