Google vient d’interrompre la recherche

Hibou Gourou
Aperçus de l'IA affichés dans la recherche Google.
Google

Les aperçus de l'IA de Google ont été annoncés il y a quelques semaines lors du Google I/O , et ils se sont déjà révélés plutôt controversés. L'objectif est de fournir des réponses de haute qualité à vos questions résumées sur le Web, mais une série de fils de discussion récents sur X (anciennement Twitter) montre à quel point il s'agit d'un échec.

La réponse devenue virale concerne une recette de pizza très douteuse. Comme indiqué, lorsque vous demandez à Google une réponse au problème du « fromage qui ne colle pas à la pizza », l'AI Overview suggère d'ajouter de la colle non toxique à votre pizza pour empêcher le fromage de glisser. Les mots exacts donnés par l'aperçu de l'IA sont les suivants : "Vous pouvez également ajouter environ 1/8 tasse de colle non toxique à la sauce pour lui donner plus de collant." D'où l'aperçu de l'IA de Google a-t-il obtenu les informations comme source ? Un commentaire Reddit de 11 ans issu de ce fil , dans ce qui était clairement une blague.

Les mots « le fromage ne colle pas à la pizza » ont généré cette réponse inattendue et amusante, et Internet s'en donne à cœur joie. La réponse de Google AI Overview est depuis devenue virale, quelqu'un ayant même essayé de coller de la pizza juste pour faire valoir son point de vue.

Google affirme que ses aperçus de l'IA fournissent aux utilisateurs des informations de haute qualité et que de telles erreurs sont rares. Il n’a également rien dit sur ce qui a pu conduire à une erreur aussi colossale.

Il convient de noter que nous avons constaté une augmentation massive des publications sur Reddit et sur les forums, apparaissant plus haut dans les recherches Google. Il convient également de noter que Reddit a récemment signé un accord de 60 millions de dollars pour permettre à Google de former ses modèles sur le contenu Reddit. Il n’est pas difficile de relier les points sur la façon dont cela a pu se produire.

Mais il ne s'agit pas seulement de Reddit. Un autre aperçu de l'IA a été publié en ligne avec une réponse à la question « combien de pierres dois-je manger chaque jour », qui extrait des informations directement de The Onion.

Une partie du problème réside dans la conviction absolue avec laquelle AI Overviews apporte ses réponses. Il n'affiche pas de lien vers un article d'Onion et ne vous permet pas de faire le jugement. Au lieu de cela, il traite chaque source comme s'il s'agissait de Wikipédia et fournit des informations en toute confiance.

Il faudra voir comment Google réagit à la situation. Pour l’instant, cependant, ces deux éléments nous rappellent à quel point nous devons être prudents lorsque nous faisons confiance aux moteurs d’IA pour obtenir des informations. Google AI Overview a commencé à être déployé auprès de tous aux États-Unis au début du mois , et dans d'autres pays à venir. Mais avec des réponses comme celle-ci, il se peut qu'il y ait plus de personnescherchant un moyen de le désactiver que prévu par Google.