Un article de voyage apparemment généré par l’IA laisse Microsoft au visage rouge
Selon un récent article publié par Microsoft Travel sur microsoft.com, les attractions qui valent le détour lors d'une visite à Ottawa, la capitale canadienne, comprennent le Monument commémoratif de guerre du Canada, la Colline du Parlement, le Fairmont Château Laurier, la Banque alimentaire d'Ottawa… attendez, la Banque alimentaire d'Ottawa ?
Repéré ces derniers jours par l'écrivain technologique basé au Canada Paris Marx , l'article aurait été créé par l'intelligence artificielle générative (IA) et n'a manifestement pas reçu de vérification humaine avant d'apparaître sur le site. L'intégralité de l'article a maintenant été supprimée, mais vous pouvez en consulter une version archivée .
La banque alimentaire apparaît au numéro 3 dans une liste de 15 endroits incontournables de la ville canadienne. Et comme si cela ne suffisait pas, la description qui l'accompagne suggère même de le visiter « à jeun ».
Voici la description complète :
« Ottawa Food Bank — L'organisation recueille, achète, produit et livre de la nourriture aux personnes et aux familles dans le besoin dans la région d'Ottawa depuis 1984. Nous observons comment la faim affecte les hommes, les femmes et les enfants au quotidien, et comment elle peut être un obstacle à la réussite. Les gens qui viennent chez nous ont des emplois et des familles à faire vivre, ainsi que des dépenses à payer. La vie est déjà assez difficile. Envisagez d'y aller à jeun.
Avec son insertion dans l'article de voyage clairement une erreur – et une terrible à cela – il semble probable que la pièce ait été assemblée à l'aide de l'IA générative, une technologie pour laquelle nous savons que Microsoft s'intéresse énormément.
Le géant de la technologie a réalisé des investissements majeurs dans OpenAI , la startup de la Silicon Valley qui a lancé le chatbot ChatGPT alimenté par l'IA et extrêmement populaire en novembre de l'année dernière, un outil réputé pour sa capacité à converser de manière humaine et à produire des contenus de haute qualité. texte, bien que la technologie naissante ait encore tendance à cracher occasionnellement des informations erronées ou absurdes.
Pourtant, Microsoft est tellement passionné par l'IA générative qu'il l'a déjà intégrée dans son moteur de recherche Bing et son navigateur Edge, entre autres produits.
Mais dans le cas de son article de voyage, la société semble avoir échoué à plusieurs égards. Premièrement, il n'a pas effectué de vérifications humaines appropriées sur l'article avant de le publier, et deuxièmement, s'il a été généré par l'IA, cela n'est indiqué nulle part sur l'article.
L'incident démontre le besoin continu d'une surveillance humaine avec du contenu généré par l'IA. Les dérapages peuvent être coûteux, comme en témoigne une affaire récente à New York dans laquelle un avocat a utilisé ChatGPT pour trouver des exemples d'affaires juridiques qu'il a ensuite inclus dans un document pour soutenir le cas d'un client. Mais il a été découvert plus tard que ChatGPT les avait tous inventés .
Digital Trends a contacté Microsoft pour plus d'informations sur son article de voyage bizarre et nous mettrons à jour ici une fois qu'il nous sera revenu.