Oups – La démo Google Bard AI est réfutée par le premier résultat de recherche
Ce sont des jours grisants si vous suivez le monde de l'intelligence artificielle (IA). ChatGPT prend le contrôle du monde, Microsoft ajoute sa technologie à Bing et Google travaille sur sa propre IA appelée Bard .
Sauf que Bard n'est peut-être pas tout à fait prêt pour les heures de grande écoute – et Google vient de le prouver lors de sa propre démonstration technologique. Oops.
L'erreur est survenue lors d'une diapositive expliquant comment Bard pouvait aider une personne à expliquer les nouvelles découvertes du télescope spatial James Webb (JWST) à son enfant de neuf ans. Cela semble assez simple, pensez-vous.
Cependant, Bard a fait les trois suggestions suivantes :
- En 2023, le JWST a repéré un certain nombre de galaxies surnommées « pois verts »
- Le télescope a capturé des images de galaxies âgées de plus de 13 milliards d'années
- JWST a pris la toute première photo d'une planète en dehors de notre propre système solaire
C'est cette dernière entrée qui a ébouriffé quelques plumes. C'est parce que la première photo d'une planète en dehors de notre système solaire (autrement connue sous le nom d'exoplanète) a été prise en 2004 par le Very Large Telescope (VLT).
Comme l'explique la NASA, cette image montre l'exoplanète 2M1207b en orbite autour d'une étoile naine brune . Cela en fait non seulement la première image capturée d'une exoplanète, mais signifie également que 2M1207b est la première exoplanète vue en orbite autour d'une naine brune. C'est un double coup dur qui n'a malheureusement pas été reconnu par Bard.
Comme l'a souligné Ph.D. en astrophysique. étudiant Isabel Angelo sur Twitter, l'ironie est qu'une recherche rapide sur Google aurait pu éviter ce problème. Une simple recherche "première photo d'une exoplanète" place la page de la NASA en haut de la pile.
Cela dit, Bard n'était pas trop loin. Septembre 2022 a marqué la première fois que le JWST lui-même avait pris une photo d'une exoplanète (dans ce cas, il s'agissait de l'exoplanète HIP 65426 b). Mais comme le savent tous ceux qui parlent couramment l'anglais, il y a un monde de différence entre dire "le JWST a pris la toute première photo d'une exoplanète" et "le JWST a pris sa première photo d'une exoplanète".
Une route cahoteuse à venir
Ce manque de nuance met en évidence avec justesse certaines des préoccupations entourant le rôle croissant de l'IA dans la vie quotidienne. Si des choses comme Bard et ChatGPT sont intégrées dans les moteurs de recherche, elles devront être non seulement rapides mais aussi précises. Sinon, une simple recherche pourrait vous infecter avec de fausses informations sans aucune indication que cela s'est produit.
Après tout, la démonstration de Google ne vous obligeait pas à visiter un site Web douteux faisant des déclarations douteuses, ce qui aurait pu déclencher des signaux d'alarme. Au lieu de cela, les réponses à la question posée sont présentées comme si elles provenaient directement de Google lui-même. Compte tenu de la portée mondiale de Google et de la reconnaissance de son nom, cela pourrait rendre les informations qu'il crache beaucoup plus crédibles, même si elles sont totalement incorrectes.
Les IA de recherche ont clairement besoin de beaucoup de travail avant de pouvoir être traitées avec plus qu'un tout petit iota de confiance. Google lui-même dit qu'il ne publiera pas Bard tant qu'il n'aura pas atteint une « barre haute pour la sécurité ». De toute évidence, il a encore un long chemin à parcourir.