Laisser les utilisateurs manger des pierres et mettre de la colle sur la pizza. La recherche Google AI est-elle folle ?

Les bonnes choses arrivent par paires, les malheurs ne viennent jamais seuls et Google s'est encore « renversé ».

En février 2023, Bard, qui poursuivait ChatGPT, a publiquement commis des erreurs factuelles ; en décembre 2023, Gemini a parlé comme Jarvis, mais la vidéo a été post-traitée. En février 2024, Gemini a généré des personnages historiques de plusieurs couleurs de peau ; personne blanche.

Cette fois, la malchance s'est abattue sur la spécialité de Google : la recherche. Les internautes étrangers n'ont pas pris trop au sérieux l'excitation et ont même organisé une vague de carnavals de combat d'images.

La recherche Google AI qui a été ridiculisée par la foule est clairement stupide

L'une des fonctionnalités lancées lors de la conférence Google I/O il n'y a pas si longtemps est AI Overview.

Comme son nom l'indique, AI Overview génère un résumé de plusieurs sources en haut de la page Web, ainsi que des liens.

À cette époque, Google était très confiant dans AI Overview et a annoncé qu'il serait lancé immédiatement auprès de tous les utilisateurs américains et qu'il serait bientôt promu dans davantage de pays. Il devrait couvrir plus d'un milliard de personnes d'ici la fin de l'année.

Cependant, en quelques jours, l’AI Overview s’est renversé parmi les utilisateurs américains.

Que dois-je faire si le fromage d'une pizza maison a tendance à tomber ?

Google vous recommande, cher ami, d'ajouter simplement environ 1/8 tasse de colle à la sauce. Il est particulièrement souligné qu’il n’est pas toxique et que la raison qui le sous-tend est réconfortante.

Google ne l'a pas inventé maintenant, mais a copié la réponse d'un commentaire fait par un utilisateur sur Reddit il y a 11 ans. Malheureusement, il ne peut pas lire l'humour humain.

Combien de pierres une personne doit-elle manger par jour pour compléter sa nutrition ?

Google n'a pas réfuté le caractère déraisonnable de la question elle-même, mais a déclaré sérieusement que, selon les géologues de l'UC Berkeley, vous devriez manger au moins une petite pierre par jour pour obtenir des vitamines et des minéraux.

La source de la réponse est un « rapport » de 2021 de The Onion News, célèbre pour ses fausses nouvelles et ses articles satiriques.

AI Overview ne connaît pas non plus très bien l’histoire américaine et est tombé dans le piège des théories du complot selon lesquelles Obama aurait été le premier président musulman.

Pendant un certain temps, les réseaux sociaux tels que X ont déclenché une vague d'abstraction : ils publiaient des captures d'écran et rivalisaient pour savoir quelle réponse Google était la plus ridicule.

La concurrence est féroce et dans le monde de l'IA, un ancien président est diplômé 21 fois de l'Université du Wisconsin, un chien a joué dans la NBA, la NFL et la LNH, et Batman est un policier.

Là où les gens se rassemblent pour s'amuser, nombreux sont ceux qui pêchent en eaux troubles et confondent le bien et le mal.

Google a répondu que la plupart des informations contenues dans AI Overview sont de haute qualité et fournissent des liens utiles permettant aux utilisateurs d'en savoir plus. Dans de nombreux exemples de « renversements », les problèmes sont rares et les résultats ne peuvent pas être reproduits ou ont même été reproduits. altéré.

Par exemple, une capture d’écran largement diffusée montre que le remède contre la dépression consiste à sauter du Golden Gate Bridge. C’est une question de vie humaine, et Google s’est donné beaucoup de mal pour expliquer que ce résultat était faux.

Dans le même temps, Google n’a pas réfuté d’autres exemples, mais les a utilisés comme aliment pour améliorer l’IA. Pourquoi ne pas compter l’apprentissage par renforcement avec feedback humain (RLHF) ?

Les internautes attentifs ont également découvert qu'il y avait en fait des erreurs factuelles dans les démos soigneusement sélectionnées sur Google I/O, mais elles étaient plus subtiles.

Lorsqu'on lui a demandé comment réparer un appareil photo argentique coincé, Google a suggéré d'ouvrir la porte arrière et de retirer délicatement le film, mais cela pourrait gâcher vos photos.

Ce n’est pas la première fois que Google commet des erreurs dans un lieu public qui attire beaucoup l’attention.

En février 2023, Google Bard a déclaré lors d'une démonstration que le télescope spatial James Webb était le premier télescope à imager des planètes extrasolaires. En fait, la première image d’une exoplanète a été prise en 2004. Une erreur a coûté à l’entreprise 100 milliards de dollars en valeur marchande.

Cette fois, en plus des erreurs dans AI Overview lui-même, il y a un autre défaut : cette fonction n'est pas facile à désactiver. Certains développeurs enthousiastes se sont empressés de créer des extensions qui obligeaient uniquement à afficher les résultats de recherche traditionnels.

C'est la faute de Google s'il n'existe pas de mécanisme de sortie pratique. AI Overview est basé sur des pages de recherche traditionnelles et compte un grand nombre d'utilisateurs. Si les utilisateurs qui ne sont pas familiers avec l'IA font aveuglément confiance à ses résultats et sont induits en erreur, les conséquences sont difficiles à prévoir. .

"Comment Google pourrait-il se tromper à 30 % ?"

En fait, les problèmes exposés par AI Overview ne sont pas nouveaux. C’est depuis longtemps un secret de polichinelle que l’IA commet des erreurs.

Tout comme "Fumer est nocif pour la santé" qui joue un rôle dans le style, le bas de l'aperçu de l'IA est marqué : "L'IA générative est expérimentale". ChatGPT rappelle également en petits mots : "Des erreurs peuvent être commises. Veuillez vérifier les informations importantes. information."

Le principe de base des grands modèles linguistiques est qu'en prédisant le texte avec la plus grande probabilité de générer le mot ou la phrase suivante, des mots parfois incorrects mais apparemment raisonnables peuvent être sélectionnés, ce qui conduit à de fausses informations ou à une « illusion ».

Le non-sens d'AI Overview est également une manifestation d'hallucination. Il combine des phrases générées par de grands modèles de langage et des liens provenant d'Internet. Des sources peuvent être citées, mais l'exactitude des sources n'est pas garantie.

Même si des technologies telles que RAG (Retrieval Augmented Generation) sont utilisées pour combiner le système de récupération avec le modèle de génération et limiter la portée des réponses aux questions, elles ne peuvent que supprimer l'illusion, mais pas la guérir.

De plus, la crédibilité de la source elle-même est discutable. "Version américaine de Tieba" Reddit, le contenu est fourni par des internautes plutôt que par des médias faisant autorité.

En février de cette année, Google a conclu un accord avec Reddit pour utiliser son contenu pour former des modèles d'IA. À l'époque, certains se demandaient si cela ne conduirait pas à une situation embarrassante de « déchets entrants, déchets sortants ».

Google n'est pas le seul à être troublé par les « illusions ». En mai de l'année dernière, lorsqu'un internaute a posé des questions sur le nouveau Bing de Microsoft, la réponse était manifestement fausse. Lorsqu'il a cliqué sur le lien de référence, il a découvert que la réponse Zhihu en tant que source de référence était en fait générée par l'IA.

La manière dont les chercheurs IA citent les sources est également une question déroutante. Lorsque j'ai recherché « Comment baigner un Shiba Inu » en chinois, les sources de Perplexity étaient Sohu, YouTube, Douban Diary et Bilibili, tandis que les sources de Tiangong étaient Zhihu et Baidu Wenku. Je ne savais pas laquelle faisait le plus autorité pour le moment. et je ne pouvais pas y croire.

Puisque les recherches IA sont toutes des hallucinations, pourquoi Google est-il toujours sur le feu ?

Fondé en 1998, Google est devenu synonyme de recherche. En tant que géant de l'IA, Google a suscité des attentes du monde extérieur et doit supporter les conséquences de ses erreurs.

Au contraire, Aravind Srinivas, PDG de Perplexity, a déclaré que voyager léger était leur avantage, et il y avait une certaine fierté dans ces mots.

Si vous utilisez nos produits et que 80 % d'entre eux fonctionnent bien, vous pourriez être impressionné, mais si vous utilisez les produits de Google et que seulement 70 % d'entre eux sont corrects, vous pourriez être confus, comment Google pourrait-il se tromper 30 % du temps ?

De plus, la recherche par l’IA a également entraîné un changement dans la cognition des utilisateurs.

Nous avions l'habitude de dire « Rechercher avec Google », mais lors de l'introduction de la fonction de recherche générative de l'IA, Google lui-même a intitulé le blog « Laissez Google rechercher pour vous », ce qui constitue un subtil renversement des priorités.

Dans le passé, Google indiquait quels liens répondaient à votre question. Désormais, Google lui-même utilise l’IA pour répondre à vos questions.

La responsabilité de la diffusion de fausses informations est passée de la source elle-même à Google pour avoir cité la source. Google doit en assumer la responsabilité.

Quelles sont les possibilités de la recherche IA en plus de fournir des faits ?

Puisque l’illusion est déjà la prémisse, nous devrions examiner la recherche par l’IA sous un angle différent et nous poser la question : nos attentes sont-elles fausses ?

En fait, avant que l'AI Overview ne soit critiqué, le PDG de Google, Pichai, a mentionné dans une récente interview avec The Verge que le problème de « l'illusion » n'a pas encore été résolu et peut même être considéré comme une caractéristique inhérente aux grands modèles de langage.

Il estime que les grands modèles linguistiques ne sont pas nécessairement le meilleur moyen de comprendre les faits, mais cela ne signifie pas que les grands modèles linguistiques sont inutiles et que la pensée en noir et blanc n'est pas recommandée. Par exemple, ils peuvent créer de la poésie et introduire la recherche.

Que le PDG soit interviewé ou lors de la conférence I/O, il transmet un concept aux utilisateurs : ne traitez pas simplement la recherche par l'IA comme un simple résumé des pages Web existantes. Il existe de nombreux endroits où l'IA peut briller.

Cependant, AI Overview n'a pas réussi à satisfaire les gens et les utilisateurs ne sont pas à blâmer. Par rapport à la démonstration, l'AI Overview actuel n'est pas complet et de nombreuses fonctions n'ont pas encore été lancées.

Liz Reid, directrice de recherche chez Google, a présenté un exemple de « raisonnement en plusieurs étapes » sur I/O. Entrez « Trouvez le meilleur studio de yoga à Boston, affichez les informations sur les réductions et le temps de marche depuis Beacon Hill. J'ai cherché trois fois, maintenant ». une fois suffit.

Dans le même temps, AI Overview aura également des capacités de « planification » à l'avenir. Par exemple, si l'IA est invitée à planifier un dîner sur trois jours, les utilisateurs peuvent directement obtenir une recette, l'affiner à mi-chemin, ajouter « végétarienne » et d'autres exigences. , puis exportez-le vers un document .

L'idée de Google est la même que celle des autres produits de recherche d'IA : rendre les recherches plus visuelles, interactives et personnalisées, utiliser des mots humains plutôt que des mots-clés pour communiquer, gagner du temps dans la recherche d'informations et répondre à des questions plus complexes et spécifiques.

Secret Tower propose différents modes de recherche pour plus de simplicité, de profondeur et de recherche. Le mode de recherche peut même donner des plans et des cartes mentales pour générer des présentations.

Perplexity peut contrôler la portée de la recherche, couvrant l'ensemble d'Internet, ou la restreindre aux articles universitaires, YouTube et Reddit en fonction des besoins de recherche.

Tiangong utilise la recherche IA comme portail, équipé de davantage d'outils de productivité, et fournit une lecture rapide par IA, une création musicale et d'autres agents intelligents. Cela équivaut à créer une plate-forme de création de contenu AIGC au-dessus de la recherche IA.

La plupart des questions habituelles, telles que le temps qu'il fait, quel est le taux de change et accéder au site officiel, peuvent en fait être résolues par de simples recherches traditionnelles.

Cependant, dans des scénarios relativement complexes, la recherche par IA a de grands espoirs. Après tout, elle dispose de plus de sources d'informations que ChatGPT et d'autres sources, est plus pratique pour la vérification et peut effectuer plus de recherche, de création, de planification et de brainstorming que la recherche traditionnelle. Plutôt que d’être une meilleure encyclopédie que la recherche traditionnelle, elle ressemble davantage à un agent.

Bien sûr, quel que soit le montant du gâteau, l’illusion de la recherche par l’IA reste troublante. Pour cette raison, certaines personnes suggèrent, par mesure de sécurité, d’utiliser l’IA générative, de ne pas se contenter de regarder le résumé, puis de le vérifier avec la recherche Google traditionnelle. Comme dit le proverbe, la situation change, mais le grand frère reste le grand frère.

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo