La nouvelle tendance la plus en vogue de ChatGPT est d’une morbidité inquiétante
L'essor de l'IA nous a permis de réaliser d'énormes progrès. De l'aide à la recherche médicale au dépistage du cancer, les avancées permises par l'IA sont remarquables. Mais parallèlement, même les outils d'IA les plus populaires, comme ChatGPT, ont connu des dysfonctionnements stupéfiants.
Ces dernières années, des rapports ont détaillé comment ChatGPT a guidé une personne vers un meurtre , l'a accusée d'avoir tué ses enfants et l'a entraînée dans une spirale de théories du complot . Il semble que la prochaine tendance soit d'utiliser ChatGPT pour rédiger les nécrologies de ses proches, voire de créer une entreprise pour répondre à cette demande massive.
ChatGPT, pour les morts parmi nous
Selon un article du Washington Post , les pompes funèbres utilisent ChatGPT pour « rédiger des avis de décès sans prévenir leurs clients ». Bien sûr, ils doivent le faire avec beaucoup de prudence, sinon ChatGPT transformera les avis de décès en récits irréalistes de la façon dont une personne est décédée parmi ses proches ou a quitté le monde des mortels paisiblement.
« Nous ne savons pas si c'était une mort paisible, même si nous aimerions l'imaginer », aurait déclaré un employé anonyme d'une entreprise de pompes funèbres. Mais il n'y a pas que les entreprises de pompes funèbres et quelques entrepreneurs technologiques qui utilisent l'IA pour rédiger des nécrologies, tout en la faisant payer. Des particuliers l'utilisent aussi et semblent très satisfaits.
Une habitante du Nevada, qui a utilisé ChatGPT pour rédiger la nécrologie de sa mère, a déclaré au média qu'elle serait « très satisfaite du résultat final ». Elle a des projets encore plus ambitieux pour l'avenir, lorsqu'elle devra peut-être rédiger la nécrologie de son père.
« Cette fois, je vais utiliser le mode Recherche approfondie. Ça va être un succès », a déclaré l'individu, cité par le Post. Certaines personnes ayant discuté avec le journaliste ont expliqué qu'il n'est pas facile d'exprimer ses sentiments dans les moments de profond deuil, et que des outils d'IA comme ChatGPT facilitent la rédaction d'une nécrologie.
Tout est permis avec la mort et les affaires
Il est intéressant de noter que l'utilisation d'outils d'IA comme ChatGPT ne semble pas être un simple choix personnel ou une manœuvre sournoise de la part de certaines maisons funéraires. C'est un secteur en plein essor, et de nombreuses entreprises proposent des services d'IA pour les avis de décès, moyennant finance.
L'une de ces entreprises est CelebrateAlly, fondée par un ancien employé de Microsoft, qui facture 5 $ pour 100 crédits. Une nécrologie nécessite généralement 10 crédits, ce qui signifie que vous pouvez rédiger un éloge funèbre en hommage à votre proche disparu pour seulement 50 cents chacun.
L'entreprise permet même aux utilisateurs de choisir entre ChatGPT et le modèle Claude AI d'Anthropic pour modifier le ton ou le contenu de la nécrologie. Mais cette technologie n'est pas exempte de défauts et, si elle est ignorée, elle peut conduire à des scénarios étranges. Voici un extrait du rapport :
Chargé d'écrire une nécrologie « ludique » pour un personnage fictif, fougueux, drôle et empreint de foi, l'outil d'IA a déclaré que l'homme était « né un jour froid », « vécu selon les mots du grand Groucho Marx », « inspiré tout le monde » et était mort dans une « étreinte ensoleillée », sans avoir reçu aucune de ces informations. Dans d'autres messages, il a inventé de faux surnoms, préférences et événements de vie, déclarant même que l'homme avait créé un théâtre communautaire et encadré un « jeune comédien… qui a ensuite fait des tournées nationales ».
ChatGPT n'est pas le seul outil à inventer des choses . L'IA Gemini de Google a demandé à quelqu'un d'ajouter de la colle à sa pizza . L'IA de Microsoft ne fait pas exception . Des recherches récentes indiquent qu'une dépendance excessive aux outils d'IA entraîne un déclin cognitif et entrave la recherche . Certains experts s'inquiètent également de profonds problèmes psychologiques et moraux.
Les applications compagnons d'IA, telles que Character AI et Nomi, ont donné naissance à un segment d'utilisateurs obsédés par leurs partenaires générés par l'IA, au détriment de véritables relations humaines. Certains vont même jusqu'à mettre leur partenaire enceinte et à rester profondément absorbés par leur propre réalité numérique, tout en versant des centaines de dollars aux entreprises d'IA qui développent ces logiciels.