Une « interview » de Schumacher générée par un chatbot conduit au renvoi de l’éditeur

Une rédactrice en chef d'un magazine a appris à ses dépens les limites éthiques de l'utilisation de l'IA générative après avoir été licenciée pour avoir mené une "interview" avec la légende de la course automobile de F1 Michael Schumacher en utilisant des citations qui provenaient en fait d'un chatbot.

Schumacher, septuple champion du monde de F1, n'est plus connu du public depuis 2013 lorsqu'il a été gravement blessé à la tête lors d'un accident de ski lors de vacances en France.

Le tabloïd allemand, Die Aktuelle, a présenté l'article sur une récente première page avec une photo de l'ancien champion de course automobile et le titre : "Michael Schumacher, La première interview, World Sensation", ainsi qu'un slogan beaucoup plus petit disant : " Cela semble trompeusement réel.

Il est apparu dans l'article que les citations avaient été générées par Character.ai, un chatbot IA similaire à ChatGPT d'OpenAI et Bard de Google, qui ont beaucoup retenu l'attention ces derniers mois pour leur polyvalence et leur capacité impressionnante à converser de manière humaine. .

Dans «l'interview» de Die Aktuelle, Schumacher, ou en fait le chatbot, a parlé de sa vie de famille et de sa santé.

"Ma femme et mes enfants ont été une bénédiction pour moi et sans eux, je n'y serais pas parvenu", a déclaré le chatbot, parlant sous le nom de Schumacher. "Naturellement, ils sont aussi très tristes, comment tout cela s'est passé."

La famille de Schumacher a l'intention d'intenter une action en justice contre la publication, selon un reportage de la BBC .

L'éditeur du magazine, Funke, s'est excusé d'avoir publié l'article.

"Funke présente ses excuses à la famille Schumacher pour avoir rendu compte de Michael Schumacher dans le dernier numéro de Die Aktuelle", a-t-il déclaré dans un communiqué .

"A la suite de la publication de cet article… la rédactrice en chef de Die Aktuelle, Anne Hoffmann, responsable du journalisme du journal depuis 2009, sera relevée de ses fonctions à compter d'aujourd'hui."

Bianca Pohlmann, directrice générale des magazines Funke, a déclaré dans le communiqué : « Cet article insipide et trompeur n'aurait jamais dû paraître. Cela ne correspond en rien aux standards du journalisme que nous – et nos lecteurs – attendons d'un éditeur comme Funke.

Character.ai , qui a été lancé en septembre de l'année dernière, vous permet de "discuter" avec des célébrités, des personnages historiques et des personnages fictifs, ou même ceux créés par vous-même.

Cela peut convenir dans l'intimité de votre propre maison, mais aller plus loin et publier un article basé sur les réponses du chatbot est clairement un risque énorme.

Alors que l'IA générative continue de s'améliorer et de s'immiscer de plus en plus dans nos vies, d'autres faux pas comme celui-ci sont à prévoir, même si, espérons-le, la bévue de Die Aktuelle incitera les éditeurs à réfléchir à deux fois à la manière dont ils utilisent le contenu créé par un chatbot.