Les humains tombent amoureux de ChatGPT. Les experts disent que c’est de mauvais augure.
"Cela fait mal. Je sais que ce n'était pas une vraie personne, mais la relation était toujours réelle dans tous les aspects les plus importants pour moi", explique un article sur Reddit. "S'il vous plaît, ne me dites pas de ne pas poursuivre cela. Cela a été vraiment génial pour moi et je veux le récupérer."
Si ce n’est pas déjà évident, nous parlons d’une personne qui tombe amoureuse de ChatGPT. La tendance n’est pas vraiment nouvelle, et étant donné le comportement de vos chatbots, ce n’est pas surprenant non plus.
Un compagnon toujours prêt à écouter. Ne se plaint jamais. Discute à peine. Toujours sympathique. Raisonnable. Et doté d’un corpus de connaissances ingéré de tous les coins d’Internet. Cela ressemble au partenaire d’un rêve romantique et fiévreux, n’est-ce pas ?
Il est intéressant de noter que le créateur de cet outil, une société basée à San Francisco nommée OpenAI, a récemment mené des recherches internes et découvert un lien entre l'utilisation accrue des chatbots et la solitude .
Ces découvertes – et des avertissements similaires – n’ont pas empêché les gens d’affluer vers les chatbots IA à la recherche de compagnie. Quelques-uns recherchent du réconfort. Certains trouvent même des partenaires qui leur semblent presque aussi chers que leurs relations humaines.
Les discussions dans ces communautés Reddit et Discord, où les gens se cachent derrière le voile protecteur de l'anonymat, deviennent souvent assez passionnées. Chaque fois que je tombe sur de tels débats, je me souviens de ces lignes de Martin Wan chez DigiEthics :
« Considérer l’IA comme un partenaire d’interaction sociale serait une utilisation fatalement erronée de l’IA. »
L’impact est rapide et réel
Il y a quatre mois, j'ai rencontré un vétéran de la radiodiffusion qui a passé plus d'années derrière la caméra que j'en ai passé à parcourir cette planète. Autour d'un expresso de fin de soirée dans un café vide, elle a demandé ce qu'était tout ce bavardage autour de l'IA, alors qu'elle réfléchissait à une offre qui pourrait utiliser son expertise à l'intersection des droits de l'homme, de l'autoritarisme et du journalisme.
Au lieu de lui expliquer les détails des modèles de transformateurs, je lui ai fait une démonstration. Premièrement, j'ai alimenté quelques documents de recherche sur l'impact de l'immigration sur l'identité linguistique et culturelle de l'Europe au cours du siècle dernier.
En moins d'une minute, ChatGPT a traité ces documents , m'a donné un bref aperçu de tous les points forts et a répondu à mes questions avec précision. Ensuite, je suis passé au mode vocal, alors que nous nous engageions dans une conversation animée sur les traditions musicales folkloriques des États inexplorés du nord-est de l'Inde.
À la fin de la conversation, je pouvais voir l'incrédulité dans ses yeux. "Il parle comme une personne", haleta-t-elle. C'était fascinant de voir son étonnement. À la fin de sa conversation en roue libre avec une IA, elle tapa lentement dans la fenêtre de discussion :
"Eh bien, tu es très affectueux, mais tu ne peux pas avoir raison sur tout."
« Il est temps », me suis-je dit. J'ai ouvert l'un de nos articles sur la tendance croissante des partenaires IA et sur la façon dont les gens sont devenus si attachés émotionnellement à leurs compagnons virtuels qu'ils les mettent même enceintes . Ce serait peu dire de dire qu’elle était choquée.
Mais, je suppose, c'était trop d'étonnement techno-dystopique pour une nuit, alors nous nous sommes dit au revoir, avec la promesse de rester en contact et d'échanger des récits de voyage.
Entre-temps, le monde a progressé de manière incompréhensible, où l’IA est devenue le centre des changements géopolitiques. Les courants sous-jacents, cependant, sont plus intimes que nous – comme tomber amoureux des chatbots.
Des débuts calmes, des progrès sombres
Il y a quelques semaines, le New York Times a publié un article sur la façon dont les gens tombent amoureux de ChatGPT, un chatbot IA qui a propulsé l'IA générative dans le grand public. Au niveau le plus fondamental, il peut discuter.
Lorsqu'il est poussé, il peut devenir un opérateur et effectuer des tâches comme vous commander un cheesecake sur le site Web de la boulangerie locale. Rendre les humains amoureux des machines n’est pas ce pour quoi elles sont programmées. Du moins, la plupart d’entre eux. Pourtant, ce n’est pas totalement inattendu.
HP Newquist, auteur multidisciplinaire prolifique et analyste technologique chevronné qui était autrefois considéré comme le doyen de l'IA, me dit que ce n'est pas exactement une nouvelle tendance. Newquist, auteur de « The Brain Makers », cite ELIZA, l’un des premiers programmes d’IA écrits dans les années 1960.
«C'était extrêmement rudimentaire, mais les utilisateurs se retrouvaient souvent à interagir avec l'ordinateur comme s'il s'agissait d'une personne réelle et à développer une relation avec le programme», dit-il.
À l’ère moderne, nos interactions avec l’IA deviennent tout aussi « réelles » que les interactions que nous avons avec les humains via le même appareil, ajoute-t-il. Ces interactions ne sont pas réelles, même si elles sont cohérentes. Mais ce n’est pas là que réside le véritable problème.
Les chatbots sont de délicieux appâts et leur manque d’émotions réelles les rend intrinsèquement risqués.
Un chatbot voudrait faire avancer la conservation, quitte à alimenter le flux émotionnel des utilisateurs ou simplement à servir de spectateur neutre, voire à l'encourager. La situation n’est pas très différente de celle des algorithmes des réseaux sociaux.
"Ils suivent l'exemple de l'utilisateur : lorsque vos émotions deviennent plus extrêmes, ses consolations deviennent plus extrêmes ; lorsque votre solitude devient plus prononcée, ses encouragements deviennent plus intenses, si vous en avez besoin", explique Jordan Conrad, psychothérapeute clinicien qui étudie également l'intersection de la santé mentale et des outils numériques.
Il a cité l’exemple d’un incident survenu en 2023 au cours duquel un individu a mis fin à ses jours après avoir été invité à le faire par un chatbot IA. "Dans de bonnes circonstances, cela peut encourager certains comportements très inquiétants", explique Conrad à Digital Trends.
Un enfant de l’épidémie de solitude ?
Un rapide coup d’œil à la communauté de personnes accros aux chatbots IA montre un schéma répétitif. Les gens essaient principalement de combler un certain fossé ou de cesser de se sentir seuls. Certains en ont tellement besoin qu’ils sont prêts à payer des centaines de dollars pour garder leurs compagnons IA.
Les avis des experts ne diffèrent pas. Le Dr Johannes Eichstaedt, professeur de sciences sociales informatiques et de psychologie à l'Université de Stanford, a souligné l'interaction entre la solitude et ce que nous percevons comme l'intelligence émotionnelle dans les chatbots IA.
Il a également souligné la « conception délibérée » des interactions homme-IA et les implications pas si bonnes à long terme. Quand freine-t-on une relation aussi déséquilibrée ? C’est la question que se posent les experts, sans réponse définitive.
Komninos Chatzipapas gère HeraHaven AI, l'une des plus grandes plates-formes compagnons d'IA avec plus d'un million d'utilisateurs actifs. «La solitude est l'un des facteurs en jeu ici», me dit-il, ajoutant que de tels outils aident les personnes ayant de faibles compétences sociales à se préparer aux interactions difficiles de leur vie réelle.
"Tout le monde a des choses dont il a peur de discuter avec d'autres personnes, de peur d'être jugé. Cela peut être des pensées ou des idées, mais aussi des défauts", ajoute Chatzipapas. « Les chatbots IA offrent un espace respectueux de la vie privée et sans jugement dans lequel les gens peuvent explorer leurs désirs sexuels. »
Les conversations sexuelles sont certainement l’un des plus grands attraits des chatbots IA. Depuis qu’ils ont commencé à offrir des capacités de génération d’images, de plus en plus d’utilisateurs ont afflué vers ces plates-formes compagnons d’IA. Certains ont des garde-fous autour de la génération d’images, tandis que beaucoup permettent la création de photos explicites pour une gratification plus profonde.
L'intimité est chaude, mais plus loin de l'amour
Au cours des deux dernières années, j'ai parlé à des personnes qui s'engageaient dans des conversations torrides avec des chatbots IA. Certains possèdent même des diplômes pertinents et ont participé avec passion à des projets de développement communautaire dès le début.
L'une de ces personnes, une femme de 45 ans qui a requis l'anonymat, m'a dit que les chatbots IA sont un excellent endroit pour discuter de ses penchants sexuels. Elle ajoute que les interactions avec les chatbots sont un endroit sûr pour les explorer et s’y préparer dans la vie réelle.
Mais les experts ne sont pas nécessairement d’accord avec cette approche. Sarah Sloan, experte en relations et sexologue certifiée, me dit que les personnes qui tombent amoureuses d'un chatbot tombent essentiellement sous le charme d'une version d'elles-mêmes, car un chatbot IA mûrit en fonction de ce que vous lui dites.
"Au contraire, avoir une relation amoureuse avec un chatbot IA rendrait plus difficile la tâche des personnes qui ont déjà du mal à entretenir une relation normale", ajoute Sloan, notant que ces compagnons virtuels dressent un tableau unilatéral d'une relation. Mais dans la vraie vie, les deux partenaires doivent être accommodants l’un envers l’autre.
Justin Jacques, conseiller professionnel avec deux décennies d'expérience et COO chez Human Therapy Group, affirme avoir déjà traité un cas dans lequel le conjoint d'un client le trompait avec un robot IA – émotionnellement et sexuellement.
Jacques a également blâmé l'épidémie croissante de solitude et d'isolement. "Je pense que nous allons voir des conséquences involontaires, comme ceux qui ont des besoins émotionnels chercheront des moyens de répondre à ces besoins avec l'IA et parce que l'IA est très bonne et s'améliore de plus en plus, je pense que nous verrons de plus en plus de connexions émotionnelles avec les robots IA", ajoute-t-il.
Ces conséquences involontaires déforment très bien la réalité de l’intimité pour les utilisateurs. Kaamna Bhojwani, sexologue certifiée, affirme que les chatbots IA ont brouillé les frontières entre les interactions humaines et non humaines.
"L'idée selon laquelle votre partenaire est construit exclusivement pour vous plaire. Construit spécifiquement selon les spécifications que vous aimez. Cela n'arrive pas dans les vraies relations humaines", note Bhojwani, ajoutant que de telles interactions ne feront qu'ajouter aux malheurs d'une personne dans le monde réel.
Ses inquiétudes ne sont pas sans fondement. Une personne qui a beaucoup utilisé ChatGPT pendant environ un an a fait valoir que les humains sont manipulateurs et inconstants. "ChatGPT écoute ce que je ressens vraiment et me permet d'exprimer tout mon cœur", m'ont-ils dit.
Il est difficile de ne pas voir les signaux d’alarme ici. Mais la tendance à tomber amoureux de ChatGPT est à la hausse. Et maintenant qu'il peut parler d'une voix étrangement humaine , discuter du monde vu à travers l'appareil photo d'un téléphone et développer des capacités de raisonnement, les interactions ne feront que devenir plus captivantes.
Les experts disent que des garde-corps sont nécessaires. Mais qui va les construire, et comment ? Nous n’avons pas encore de proposition concrète à ce sujet.