L’IA nous rend-elle moins libres ?

Le récent « Catch the Wind » est le meilleur film de Jackie Chan de la dernière décennie. Bien qu'il s'agisse d'un remake réussi, il intègre également des éléments d'IA très tendance. Par exemple, la police a commencé à utiliser une super IA pour diriger l'opération d'arrestation. La scène d'ouverture du film montre le chef de la police, qui n'a pas suivi les suggestions de l'IA et a pris ses propres décisions, ce qui a conduit à l'évasion du criminel.

Si le film s'achève sur Jackie Chan, un policier chevronné, qui traduit le criminel en justice grâce à l'IA, il soulève également une question : les humains doivent-ils obéir aux ordres de l'IA ? Si l'IA dictait tout, quel serait le sens de notre existence ?

GEO et les partisans de l'IA

Le GEO (Generative Engine Optimization) est un concept très récent, mais facile à comprendre. Son équivalent est le SEO (Search Engine Optimization).

Lorsque nous utilisons des moteurs de recherche tels que Google ou Baidu, les liens affichés seront probablement affectés par trois aspects : les règles de l'algorithme du moteur de recherche, si le contenu du lien est optimisé selon les règles pour être mieux classé (c'est-à-dire SEO) et le profil utilisateur de l'utilisateur sur le moteur de recherche.

Lorsque des outils d’IA tels que DeepSeek prennent également en charge une partie des tâches de recherche, les résultats de la recherche ne sont plus des liens sur lesquels il faut cliquer, mais des réponses directes qui semblent certaines.

Par exemple, lorsque j'ai cherché sur Google « Quels sont les 5 meilleurs médias technologiques en Chine ? », je n'ai trouvé que quelques liens. Le lien le mieux classé était une liste des 10 meilleurs médias technologiques de 2017, sélectionnée par une organisation inconnue. Parmi eux, Kanchai.com, classé premier, a cessé d'être mis à jour.

Lorsque je demande à ChatGPT, il me dit directement la réponse et la raison.

À l'heure actuelle, si un média bienveillant découvrait ce résultat et constatait qu'il ne figurait pas sur la liste, il serait probablement quelque peu mécontent. Tout en maudissant secrètement ChatGPT pour son incompréhension de la technologie et des médias, il pourrait aussi réfléchir à la manière d'influencer ChatGPT et de lui faire reconnaître son excellence.

Bien sûr, ce résultat n'est pas très significatif, car peu de personnes poseraient de telles questions à ChatGPT. Cependant, avec la pénétration actuelle d'outils d'IA tels que ChatGPT, Perplexity et DeepSeek, de plus en plus de personnes poseront davantage de questions :

• Recommandez-moi un téléphone portable abordable, doté d'excellentes performances, d'une longue durée de vie de la batterie, robuste et résistant aux chutes.
• Une entreprise m'a proposé un emploi. Quelle est sa réputation ? Vaut-il la peine d'y aller ?
• J'ai obtenu 567 points à l'examen d'entrée à l'université d'arts libéraux du Hubei cette année. Dans quelle université et quelle filière est-il plus facile de trouver un emploi ?

Tout comme en juin de cette année, Alibaba, Quark et Yuanbao de Tencent ont tous développé des outils d'IA correspondants et ont fait beaucoup de publicité pour la candidature à l'examen d'entrée à l'université.

À l'heure actuelle, les fabricants de téléphones portables souhaitent commercialiser des appareils mobiles, les entreprises souhaitent améliorer leur image de marque et les universités souhaitent améliorer leurs taux d'inscription. Tous ces acteurs sont motivés par l'optimisation des résultats générés par les outils d'IA, et c'est ainsi que GEO a vu le jour.

Claire, directrice générale de la division GEO de Yuanli Technology, a déclaré à iFanr :

C’est précisément parce que les grands modèles génèrent des résultats grâce au raisonnement et à la compréhension sémantique, et présentent des caractéristiques non commerciales, que les utilisateurs pensent généralement que les réponses données par les outils d’IA sont plus objectives, neutres et crédibles.

Dans le même temps, si certaines marques et certains produits sont cités par les réponses de l’IA, la pénétration dans l’esprit des utilisateurs sera relativement plus implicite et efficace.

En bref, GEO est une mine d’or marketing.

Frank, directeur de la stratégie de Yuanli Technology du groupe Aijia Marketing, a déclaré :

On estime que d'ici la fin de l'année, les recherches IA comme ChatGPT représenteront environ 10 % du trafic de recherche traditionnel, et que ce chiffre sera de 25 % pour l'année prochaine. Si l'on se base sur une estimation optimiste, d'ici 2028, les recherches IA et le trafic de recherche traditionnel représenteront chacun 50 %, et l'estimation la plus prudente prévoit que cette proportion sera atteinte en 2030.

Le marché national du référencement représente actuellement environ 18 milliards de RMB, et le marché mondial 80 milliards de dollars américains. Si l'on se base uniquement sur le ratio de trafic, le marché du référencement géographique représentera à terme entre 40 et 50 milliards de dollars américains.

Mais le point de vue de Frank sur GEO va au-delà d’une simple comparaison avec le SEO :

Le SEO est en réalité un domaine très spécialisé du marketing digital traditionnel et constitue un véritable outil. Cependant, la compréhension du GEO par le secteur va au-delà du simple outil. Il peut remodeler le paradigme marketing à l'ère de l'IA, notamment en restaurant la notoriété et la visibilité des marques, et en remodelant la relation entre elles et leurs consommateurs, ouvrant ainsi une chaîne de consommation complète.

Récemment, Sequoia, Nvidia Ventures et A16Z ont tous investi dans des startups GEO.

Les marques étaient autrefois axées sur l'humain, avec une communication entre deux personnes et une seule ligne. Aujourd'hui, la relation entre les individus et les marques s'appuie sur un modèle d'IA de grande envergure, représentant un partenaire, un assistant ou une secrétaire. Les marques doivent donc influencer non seulement les individus, mais aussi l'IA.

Comparé aux règles et méthodologies claires du SEO, le GEO est encore en phase exploratoire, et les règles sont relativement floues, le modèle global étant une boîte noire. Claire a déclaré :

L'incertitude inhérente aux grands modèles ne signifie pas que les résultats ne peuvent pas être optimisés. Comprendre les préférences de contenu et les règles d'optimisation des outils d'IA peut augmenter considérablement la probabilité que le contenu de marque soit indexé et référencé par l'IA.

En particulier, le contenu doit partir de l'intention de l'utilisateur et être construit sous une forme plus proche du langage naturel, plutôt que de l'empilement de mots-clés à l'ère du référencement.

Par exemple, nous devons comprendre la véritable intention derrière les questions des utilisateurs, puis couvrir et contextualiser sémantiquement le contenu principal de la marque. Alimenter continuellement l'IA avec du contenu authentique et de qualité lui permettra de mieux comprendre ce qui fait la force de la marque et d'être disposée à citer ou à générer proactivement du contenu lié à la marque dans des contextes appropriés. Pour les marques, développer la cognition de l'IA est un projet de longue haleine.

Le contenu que l'IA aime lire présente généralement quatre caractéristiques principales : premièrement, il doit faire autorité et être hautement crédible, comme les rapports de recherche et les listes influentes publiées par les organisations industrielles ; deuxièmement, il doit être basé sur des données et objectif ; troisièmement, il doit être structuré et multimodal ; et enfin, il doit être sémantiquement pertinent pour garantir un degré élevé de correspondance avec les véritables intentions de l'utilisateur.

Parallèlement, les différents outils d'IA ont des préférences différentes en matière de collecte de sources d'information. Choisir des canaux de diffusion à fort impact peut également augmenter les chances que la marque soit « vue » par l'IA.

Par rapport à l'approche SEO qui s'appuie sur la « densité des mots clés et le nombre de backlinks », Claire et Frank préfèrent tous deux faire confiance au choix des grands modèles d'IA.

Selon Frank, seul le contenu auquel les modèles d'IA font confiance sera approuvé par les consommateurs. En effet, ces modèles utilisent le principe EAT (Expérience/Expertise, Autorité, Fiabilité) pour sélectionner le contenu.

Le problème le plus crucial est que l'IA évolue à un rythme effréné. Même si le GPT-5, tant décrié, est considéré comme offrant une expérience utilisateur médiocre, le taux d'illusion important qui le sous-tend a chuté de façon considérable. Il peut paraître peu convivial ou manquer d'intelligence émotionnelle, mais il est en effet plus crédible.

De nos jours, lorsque les utilisateurs utilisent les moteurs de recherche, ils n'identifient pas soigneusement les traces SEO. Qu'ils connaissent ou non l'outil, l'identification est dénuée de sens. Il en va de même lorsque GEO s'infiltre dans les outils d'IA.

Il s’agit moins d’une question d’autonomie humaine que d’une question de confiance.

L’IA est devenue l’intermédiaire de la confiance, et la confiance est l’atout principal de GEO.

Navigation et jeu à trois corps

Les êtres humains surestiment toujours leur autonomie et se sentent souvent libres.

Waze est un pionnier dans le domaine de la navigation. Son principe est que les utilisateurs de la communauté signalent leur position et leur vitesse, ainsi que d'autres informations sur le trafic routier, et même les informations de la police routière, afin de fournir à tous les utilisateurs de Waze des informations de navigation, d'évitement des embouteillages et de la police routière, entre autres.

Cette logique est désormais adoptée par de nombreuses applications de navigation cartographique, mais il y a plus de dix ans, le modèle de crowdsourcing basé sur des utilisateurs massifs semblait être une véritable innovation. Aux débuts des smartphones, un tel service LBS présentait un potentiel commercial considérable. En 2013, Google a acquis Waze.

Dans ce modèle, des milliers d’utilisateurs contribuent avec leurs propres informations, qui sont progressivement rassemblées dans un torrent de données, puis transformées en informations de navigation.

La question est la suivante : lorsque Waze indique à l'utilisateur que tourner à gauche pour rentrer chez lui évitera les embouteillages, mais que l'utilisateur pense qu'aller tout droit sera plus rapide, qui a le plus de chances d'avoir raison ?

Waze a généralement raison car il dispose d'informations de plus grande dimension et considère la carte entière du point de vue de Dieu.

Ensuite, « Une brève histoire du futur » soulève une deuxième question : imaginons que Waze soit si utile que tous les conducteurs commencent à l'utiliser. Imaginons maintenant que l'autoroute 1 soit embouteillée, tandis que l'autre autoroute 2 est relativement fluide. Si Waze signale simplement à tout le monde que l'autoroute 2 est libre, tous les conducteurs s'y précipiteront et tout le monde se retrouvera à nouveau coincé dans les embouteillages.

Alors Waze va-t-il diffuser l'information selon laquelle l'autoroute 2 est plus fluide à la moitié des utilisateurs, détournant ainsi la moitié des utilisateurs vers cette route, mais en même temps cacher cette information à l'autre moitié des utilisateurs ?

Cela se produira également dans une perspective d’efficacité optimale et d’expérience optimale.

Face aux applications de navigation, la prétendue autonomie humaine est un mythe. Les humains fournissent des informations pour créer un dieu des données, puis obéissent à ses ordres. Quiconque tente d'aller à l'encontre de cette règle s'expose à des embouteillages.

Le roman de science-fiction « Le Problème à trois corps » présente un scénario encore plus extrême. Ce roman propose un jeu virtuel appelé « Le Jeu à trois corps ». Les joueurs doivent résoudre le problème du mouvement à trois corps. Le von Neumann virtuel trouve le Qin Shi Huang virtuel. S'appuyant sur l'architecture de von Neumann, Qin Shi Huang a convoqué 30 millions de soldats et simulé les opérations binaires de l'ordinateur en faisant tenir à chaque soldat un drapeau, formant ainsi une colonne humaine.

À l'heure actuelle, 30 millions de soldats équivalent à 30 millions de transistors. Lorsqu'ils obéissent aux ordres, même sous la dynastie Qin, ils peuvent faire preuve d'une puissance de calcul comparable à celle des ordinateurs modernes.

Bien que le mot « algorithme » ne soit pas si beau, trop d’exemples nous montrent que si nous n’écoutons pas l’algorithme, nous subirons des pertes.

Tout comme les applications de covoiturage n’utilisent généralement pas de pénalités explicites pour contraindre les conducteurs, mais que les conducteurs avec des scores inférieurs sont moins susceptibles d’obtenir des commandes de haute qualité, la grande main de l’algorithme est comme la montagne à cinq doigts de Bouddha.

Même ceux qui ont confiance en leurs capacités de conduite admettront que si la puissance de calcul et les capteurs continuent de se développer et que les humains confient toutes les activités de conduite à l’IA, le taux d’accidents et le taux de congestion seront considérablement réduits.

Nous sommes arrivés à un stade où nous devons admettre que l'IA peut être une meilleure solution dans certains domaines sociaux. Il est préférable que les humains soient disposés à obéir aux algorithmes et à leur fournir des données, mais nombreux sont ceux qui doutent encore que l'IA soit une meilleure solution pour les individus.

Frank, directeur de la stratégie de Yuanli Technology, a donné un exemple dans une interview selon lequel la quantité d'informations contenues dans un exemplaire du New York Times équivaut à la quantité d'informations qu'un Londonien du 17e siècle obtenait en une année entière.

L'information accessible aux contemporains est désormais illimitée. Si nous le souhaitons, nous pouvons lire les journaux 16 heures par jour, et la quantité d'informations que nous consommons en une journée est équivalente à celle que les Londoniens consommaient durant toute leur vie il y a des siècles.

Cependant, la vitesse de l'évolution humaine ne peut suivre l'explosion de l'information. À l'heure actuelle, l'IA peut également devenir une solution personnalisée.

De ce point de vue, ChatGPT n'est qu'un moyen relativement basique de traitement de l'information. Les agents d'IA capables d'aider les utilisateurs à accomplir certaines tâches ont récemment fait de grands progrès, et l'avenir de l'intelligence artificielle générale (IAG) est également considéré comme très prometteur.

La relation entre l'information et les individus est étroitement liée à la quantité et à la densité de l'information. À l'ère du livre, les hommes ont compilé le « Siku Quanshu » et l'ont classé selon les classiques, l'histoire et divers ouvrages afin de faciliter leur recherche. Ce système est devenu une méthode pratique de traitement de l'information, créée par l'homme face à la masse d'informations.

Les comportements de recherche sont très similaires. Face à l'explosion constante de l'information, les algorithmes d'étiquetage basés sur les portraits des utilisateurs aident les humains à filtrer et à filtrer les informations, formant ainsi une arme à double tranchant : la mise en correspondance efficace des informations et ce que l'on appelle le « cocon d'information ». Des outils d'IA comme ChatGPT à l'agent IA naissant, les humains améliorent progressivement leur efficacité dans le traitement de l'information, tout en réduisant leurs tâches personnelles.

Le GEO et les autres éléments mentionnés ci-dessus ne sont que quelques accompagnements dans la migration du comportement de traitement de l’information humaine.

Les sens et le libre arbitre humain

Laissons de côté la question du remplacement des emplois humains par l'IA : si l'on considère les résultats obtenus grâce aux outils d'IA, ceux-ci ont peut-être été optimisés par GEO, et la navigation est clairement plus fluide, mais elle ne me le permet pas. Au contraire, obéir aux ajustements de l'algorithme permet d'améliorer l'expérience et d'accroître sa valeur personnelle. Ces conclusions donnent l'impression que l'humanisme cède à l'IA et que le libre arbitre a été anéanti par l'algorithme.

Mais il y a un bon dicton : pourquoi la tolérance à l'erreur humaine est-elle si étonnante ? Parce que la tâche principale d'un être humain est de consommer 2 000 calories par jour et de trouver un endroit où cette énergie est garantie de rester. Tout le reste n'est que quêtes secondaires.

Lors d'une interview avec le fondateur de HyperShell, une startup qui développe des exosquelettes, le fondateur a déclaré :

L'utilisation de différentes technologies pour améliorer les capacités humaines doit constituer la prochaine étape de l'évolution de la civilisation humaine. Je pense que cette tendance est justifiée, mais il existe de nombreux types de technologies. L'IA est également une forme d'amélioration pour les humains, car elle renforce leurs capacités intellectuelles, d'acquisition d'informations et de raisonnement logique.

L'augmentation humaine est une évolution technologique cruciale pour les 10 à 20 prochaines années, et ce sur quoi nous travaillons n'en représente qu'une petite partie. Les exosquelettes sont essentiellement un moyen permettant aux humains d'interagir avec le monde physique. Ils sont programmables, numériques et pilotés par des entrées. Ils visent à augmenter le monde physique pour concrétiser le libre arbitre humain.

Des armures et une intelligence artificielle comme celles d’Iron Man sont imaginables et réalisables dans le futur.

Un concept important mentionné dans « Une brève histoire de demain » est que l’expérience sensorielle et l’état psychologique des humains contemporains sont extrêmement étroits.

En termes d'expérience sensorielle, les humains ne peuvent percevoir que les ondes électromagnétiques d'une longueur d'onde comprise entre 400 et 700 nanomètres, soit la lumière visible pour l'homme. Or, les crevettes-mantes possèdent 16 types de cônes et peuvent percevoir les rayons ultraviolets, les rayons infrarouges et même la lumière polarisée. Le monde est plus coloré et plus splendide pour les crevettes-mantes.

Mais nous, qui n'avons que trois types de cellules coniques, ne pouvons pas bénéficier de la vision de la crevette-mante, tout comme les chauves-souris peuvent entendre les ultrasons au sens humain et éviter les obstacles, mais les humains font la sourde oreille.

Nous ne sommes pas les seuls à manquer des sensations des autres animaux. Autrefois, les humains percevaient les émotions d'autrui grâce à l'odorat. Les tribus antiques, débattant de la nécessité d'une guerre avec leurs voisins, pouvaient simplement utiliser l'odorat pour comprendre les pensées de chacun, car des émotions comme l'encouragement et la peur produisent des odeurs différentes. Cependant, avec l'importance croissante de la vue et de l'ouïe au cours du développement humain, cet odorat s'est détérioré.

Dans « Sapiens : une brève histoire de l'humanité », l'auteur Yuval Noah Harari a mentionné de nombreux exemples similaires pour prouver que l'état mental humain devient de plus en plus étroit, et a finalement souligné que les humains peuvent utiliser la technologie pour contrôler complètement leur état mental, c'est-à-dire que « les humains étaient des versions améliorées des gorilles dans le passé, et seront des versions agrandies des fourmis dans le futur. »

Cette affirmation est cohérente avec la navigation Waze mentionnée précédemment et l’utilisation de 30 millions de soldats pour former un ordinateur dans le jeu des trois corps.

C'est effectivement le cas. Par exemple, lorsque nous voyons quelqu'un s'essayer au wingsuit ou à l'escalade libre, deux activités qui ont un taux de mortalité élevé, nous l'admirons et l'envions, mais nous pensons aussi qu'il s'agit d'un comportement « insensé ». En revanche, l'expérience mentale ressentie en planant au bord de la mort est extrêmement rare.

Lorsque le concept de « métavers » était populaire il y a quelques années, il y avait un débat entre la faction du « métavers » qui préconisait que les humains se cachent dans le monde virtuel et s'adonnent à des plaisirs illusoires, et la faction du « vaisseau spatial » qui préconisait que les humains explorent le monde physique réel et se dirigent vers les étoiles et la mer.

Mais le fait est que la vague de l'IA s'accompagne également d'« intelligence incarnée », d'« interface cerveau-ordinateur » et d'« amélioration humaine ». Bien que l'évolution du monde physique soit plus lente que celle du monde construit par le code, en raison de la diversité des êtres humains et de leur soif de connaissance et d'exploration, la « faction métavers » et la « faction vaisseau spatial » ont certainement leurs propres partisans et fusionnent et coexistent même, tout comme dans le domaine des voitures intelligentes aujourd'hui, le code et les machines sont tout aussi importants.

Nous ne sommes pas toujours assis dans une voiture à recevoir des instructions de navigation, ni les soldats portant le drapeau d'une scène de roman de science-fiction. Du point de vue de Dieu, les humains sont bel et bien comme des fourmis. Mais vus du sol, nous sommes entourés de robots intelligents incarnés, portant des lunettes intelligentes avec agents d'IA intégrés et des exosquelettes mécaniques délivrant des centaines de chevaux-vapeur. Nous sommes alors Iron Man, capable de voler dans le ciel et de se cacher sous terre, de voler en wingsuit, d'escalader des rochers à mains nues et de ne pas craindre la mort.

Ou encore plus fou, la technologie pourrait nous permettre d’expérimenter la vision d’une crevette-mante et l’ouïe d’une chauve-souris.

Par coïncidence, Tesla a annoncé aujourd'hui son « Grand Plan Chapitre 4 ». Contrairement aux précédents plans axés sur l'automobile ou les produits énergétiques, celui-ci dépeint une destination plus lointaine et idéaliste : une société d'« abondance durable » dirigée par l'IA et les robots. De fait, l'orientation stratégique de Tesla est passée du « développement durable » à une vision de l'avenir de la société.

Cela signifie au moins que la pratique sociale de « l’abondance durable » menée par l’IA et les robots est entrée dans la phase d’ingénierie, plutôt que dans la phase de description de la science-fiction.

Nous avons peut-être été beaucoup contraints, mais le libre arbitre existe toujours et est plus fort que jamais.

#Bienvenue pour suivre le compte public officiel WeChat d'iFaner : iFaner (ID WeChat : ifanr), où du contenu plus passionnant vous sera présenté dès que possible.

iFanr | Lien original · Voir les commentaires · Sina Weibo