Les aperçus de l’IA de Google déraillent déjà

Hibou Gourou
Aperçus de l'IA affichés dans la recherche Google.
Google

Les aperçus de l'IA de Google ont été annoncés il y a quelques semaines lors du Google I/O , et ils se sont déjà révélés plutôt controversés. L'objectif est de fournir des réponses de haute qualité à vos questions résumées sur le Web, mais un fil de discussion récent sur X (anciennement Twitter) suggère qu'il ne provient peut-être pas des sources les plus précises.

En demandant à Google une réponse au problème du « fromage qui ne colle pas à la pizza », l'AI Overview affirmerait que l'ajout de colle non toxique à votre pizza empêchera le fromage de glisser. Les mots exacts donnés par l'aperçu de l'IA sont les suivants : "Vous pouvez également ajouter environ 1/8 tasse de colle non toxique à la sauce pour lui donner plus de collant." D'où l'aperçu de l'IA de Google a-t-il obtenu les informations comme source ? Cela vient d'un commentaire Reddit de 11 ans sur ce fil , dans ce qui était clairement une blague.

Les mots « le fromage ne colle pas à la pizza » ont généré cette réponse inattendue et amusante, et Internet s'en donne à cœur joie. La réponse de Google AI Overview est depuis devenue virale.

Google affirme que ses aperçus de l'IA fournissent aux utilisateurs des informations de haute qualité et que de telles erreurs sont rares. Il n'a pas non plus dit quoi que ce soit sur ce qui a pu conduire à une erreur aussi colossale, et jusqu'à présent, il n'y a aucun rapport selon lequel quelqu'un aurait ajouté de la colle à sa pizza parce que Google le lui avait demandé, mais c'est bon pour rire.

Il convient de noter que nous avons constaté une augmentation massive des publications sur Reddit et sur les forums, apparaissant plus haut dans les recherches Google. Il convient également de noter que Reddit a récemment signé un accord de 60 millions de dollars pour permettre à Google de former ses modèles sur le contenu Reddit. Il n’est pas difficile de relier les points sur la façon dont cela a pu se produire.

Le plus gros problème est qu’il ne s’agit pas d’un incident ponctuel. Dans un autre fil X de Patrick Cosmos , le Google AI Overview a répondu qu'un chien avait joué en NBA. Nous ne connaissons pas la source de cette réponse, mais il est clair que les aperçus de l'IA ont connu un début difficile.

Ce sont deux bons rappels de la prudence dont nous devons faire preuve lorsque nous nous tournons vers les moteurs d’IA pour obtenir des informations. Google AI Overview a commencé à être déployé auprès de tous aux États-Unis au début du mois , et dans d'autres pays à venir. Mais avec des réponses comme celle-ci, il se peut qu'il y ait plus de personnescherchant un moyen de le désactiver que prévu par Google.