Le chatbot IA devient malveillant lors d’un échange avec le service client

Hibou Gourou

La société de livraison internationale DPD met à jour son chatbot basé sur l'IA après avoir donné des réponses inattendues lors d'un échange avec un client mécontent.

Le musicien Ashley Beauchamp s'est récemment tourné vers le chatbot du service client de DPD pour tenter de retrouver un colis manquant.

Après avoir peu progressé avec le chatbot, il a décidé de s'amuser en lui demandant d'écrire un poème critiquant l'entreprise, ce qu'il a fait. Il lui a également demandé de jurer, et encore une fois, il a accepté, en utilisant le mot F dans sa réponse.

Beauchamp a partagé ses frustrations dans une publication sur les réseaux sociaux qui a maintenant été vue près de deux millions de fois.

"La société de livraison de colis DPD a remplacé le chat de son service client par un robot IA", a écrit le musicien. « Il est totalement inutile de répondre à des questions, et lorsqu'on le lui a demandé, il a joyeusement produit un poème sur la façon dont ils sont terribles en tant qu'entreprise. Il m’a aussi injurié.

Des captures d'écran ont montré que Beauchamp avait demandé au chatbot DPD de créer un haïku, un poème japonais composé de 17 syllabes, avec cinq syllabes sur le premier vers, suivies de sept et cinq. Mais l'assistant numérique n'a même pas réussi à y parvenir, ce qui a gâché le nombre de syllabes, même si le sentiment était juste.

Le poème disait :
"DPD est un inutile,
Chatbot qui ne peut pas vous aider.
Ne vous embêtez pas à les appeler.

DPD a déclaré qu'une erreur s'était produite avec son chatbot IA suite à une récente mise à jour du système, ajoutant qu'elle s'efforçait de garantir que cela ne se reproduise plus.

Bien que les chatbots aient été déployés par de nombreuses entreprises au fil des années dans le cadre de la configuration de leur service client, beaucoup ont été critiquées pour leur incapacité à fournir une aide significative. Mais avec l'IA générative qui a gagné énormément de terrain l'année dernière avec des outils comme ChatGPT , on espère que cette technologie plus avancée pourra transformer les chatbots du service client en assistants beaucoup plus efficaces. Mais comme Beauchamp a trouvé le chatbot IA de DPD « complètement inutile » avant de le faire jurer et critiquer l'entreprise, la technologie a clairement encore besoin d'être peaufinée.

Beauchamp a déclaré qu'il trouvait l'incident amusant, mais a ajouté que « ces chatbots sont censés améliorer nos vies, mais très souvent, lorsqu'ils sont mal mis en œuvre, ils conduisent simplement à une expérience plus frustrante et impersonnelle pour l'utilisateur ».