Le mode Google AI réinventera la recherche. Je suis inquiet – et tu devrais l’être aussi

Google va de l'avant avec davantage d'IA dans le fonctionnement de la recherche sur Internet . Vous vous souvenez des aperçus de l'IA, qui résument essentiellement le contenu extrait des sites Web et le présente en haut de la page de recherche Google ?

Cette fonctionnalité sujette aux erreurs s'étend désormais au marché américain, grâce aux nouveaux modèles Gemini 2.0 AI . Il ne nécessite plus de connexion à un compte Google et est ouvert aux utilisateurs de tous les groupes d'âge. Bien qu'il s'agisse d'une décision risquée en soi, Google propose un traitement global similaire à l'ensemble de la page de recherche avec un nouveau mode IA.

Actuellement disponible sous forme d'expérience en laboratoire, le mode AI transforme essentiellement l'expérience de recherche Google traditionnelle avec des liens vers des sites Web en un dialogue conversationnel, tout comme les chatbots IA vous donnent des réponses. C'est une commodité délicieuse, mais qui pourrait s'avérer dramatiquement erronée, si l'on en croit l'histoire des aperçus de l'IA.

Qu'est-ce que le mode IA pour la recherche Google ?

L’idée générale est de donner aux utilisateurs toutes les informations dont ils ont besoin – extraites de sites Web indexés – et d’éviter d’avoir à cliquer sur les sources et à parcourir les pages Web pour trouver les réponses. Vous pouvez poser des requêtes de suivi dans un format en langage naturel, au lieu d'une recherche bourrée de mots clés, et même fournir des détails qui nécessiteraient autrement quelques requêtes de recherche de suivi supplémentaires.

« Il utilise une technique de « diffusion de requêtes », émettant simultanément plusieurs recherches associées sur des sous-thèmes et plusieurs sources de données, puis rassemble ces résultats pour fournir une réponse facile à comprendre », explique l'entreprise.

Google prévient cependant qu'il ne réussira peut-être pas toujours avec le mode IA, même si ses tests internes ont donné des résultats encourageants. Dans les scénarios où le mode IA n'est pas sûr de la réponse résumée, il affichera simplement une liste de résultats de recherche sur le Web, comme l'expérience de recherche Google traditionnelle.

Dans son avatar actuel, il peut fournir des réponses sous la forme d'un mur de texte ou de tableaux soigneusement formatés, mais à terme, des images et des vidéos seront également incluses. Le mode IA n'est actuellement disponible que pour les abonnés Google One AI Premium et sera déployé sous la forme d'une expérience opt-in.

C'est de mauvais augure pour toute personne qui dépend de la recherche Google, surtout si l'on parle d'exactitude. Voici un exemple. J'ai vérifié si nous vivions en 2025. L'AI Overview de Google indique que nous sommes en 2024. La première source citée pour cette information était Wikipédia, qui indique explicitement que l'année en cours est 2025.

Une riche histoire de risques

L'idée derrière le mode AI pour la recherche Google est théoriquement ancrée dans la commodité de l'utilisateur. Cependant, la pile technologique fondamentale qui la sous-tend est encore confrontée à quelques problèmes que l’ensemble du paysage de l’IA n’a pas encore résolu. L’une d’elles concerne les hallucinations de l’IA, qui sont essentiellement un outil d’IA qui crée des informations et les présente en toute confiance comme un fait.

Les aperçus de l'IA de Google sont le meilleur exemple de ces faux pas, et les erreurs continuent de surgir jusqu'à ce jour. Prenez par exemple cette preuve , partagée il y a quelques heures à peine sur Reddit, dans laquelle AI Overview mentait avec assurance sur une règle de conduite à droite en Inde.

C'est une fausse déclaration, et pourtant, à aucun moment, le langage du texte de présentation de l'IA ne suggère que l'utilisateur doit vérifier ces informations. "C'est tellement inexact et tellement bogué que je suis surpris qu'il existe", indique un autre rapport détaillant sa pure inexactitude.

Les aperçus de l'IA n'apparaissent que sous la forme d'une pépite d'informations condensée, présentée en haut de la page de recherche Google. Imaginez maintenant une page entière présentée aux utilisateurs sous la forme d’une longue présentation, avec quelques liens sources intercalés à travers le mur de texte.

Google affirme que les aperçus de l’IA excelleront dans « le codage, les mathématiques avancées et les requêtes multimodales ». Pourtant, il n’y a pas si longtemps, il a fouillé les faits et bouleversé l’histoire, en particulier avec le type de requêtes en langage naturel qui sont en vogue pour le mode IA.

Lorsqu'on lui a demandé si les astronautes avaient rencontré des chats sur la Lune, il a répondu avec confiance que c'était vrai, ajoutant que les astronautes prenaient même soin de ces chats lunaires. Julia Feerrar, experte en littératie numérique à Virginia Tech, a fait remarquer que l'IA ne connaît pas réellement les réponses à nos questions, citant un exemple dans lequel l'aperçu de l'IA de Google a mentionné avec confiance Barack Obama comme le premier président musulman.

https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK

— SG-r01 (@heavenrend) 22 mai 2024

Les conséquences de la désinformation de l’IA pourraient être désastreuses, notamment lorsqu’il s’agit de requêtes liées à la santé et au bien-être. Dans une analyse de plus de 30 millions de pages de résultats de moteurs de recherche (SERP), SerpStat a découvert que la recherche liée à la santé est la catégorie la plus populaire dans laquelle apparaissent les aperçus de l'IA.

Il s’agit du même outil qui suggère qu’une personne devrait manger au moins une pierre par jour, ajouter un huitième de tasse de colle à la pizza, boire de l’urine pour éliminer les calculs rénaux, et qui mentionne qu’un bébé éléphant peut tenir dans une paume humaine à partir de 2025.

Ce n'est pas l'évolution de recherche que je recherche

Malgré les affirmations de Google sur l'évolution des modèles d'IA, la situation ne s'est pas améliorée de façon spectaculaire. Il y a moins d'un jour, Futurism a repéré AI Overviews affirmant avec confiance que MJ Lenderman avait remporté 14 Grammy Awards.

Je me suis même trompé d’année lorsque j’ai demandé quelque chose d’aussi simple que « est-ce que nous sommes en 2025 » dans le champ de recherche Google. "Non, nous ne sommes pas actuellement en 2025. L'année en cours est 2024", indique l'AI Overview.

En allant plus loin, il explique que 2025 est une année courante qui commence un mercredi, ajoutant un tas d'informations non liées traitant de tout, des célébrations nationales aux déclarations de l'ONU, qui n'ont absolument rien à voir avec ma requête.

Maintenant, je ne suis pas entièrement contre l’IA. Au contraire, j'utilise beaucoup des outils comme Gemini Deep Research et je m'appuie souvent sur le dernier modèle d'IA Flash Gemini 2.0 pour des idées créatives lorsque mes cellules cérébrales ne fonctionnent pas à leur capacité maximale.

Cependant, pousser une refonte de l’IA sujette aux erreurs vers une source d’informations aussi indispensable que la recherche Google est une proposition risquée. Digital Trends a contacté Google et mettra à jour cette histoire une fois que nous aurons reçu une réponse.