Si les « copines robots » deviennent une réalité dans les 20 prochaines années, les humains seront-ils capables de récolter l’amour de l’IA ?

Les points chauds des réseaux sociaux semblent avoir un peu changé dans un coin inaperçu.

L'industrie Internet traverse encore un « hiver froid », mais les entreprises en vogue dans les domaines de la fabrication de puces, de l'intelligence artificielle et d'autres domaines peuvent toujours attirer l'attention des gens.

Dans le passé, personne n'aurait probablement pensé que les changements dans les cadres supérieurs d'Open AI et l'histoire intérieure du « Gong Du » de Microsoft pourraient en fait être considérés comme « la légende de Zhen Huan » sur l'Internet chinois, provoquant tant de spéculations et discussion.

Cela peut être dû au fait que, à mesure que la technologie de l'IA a fait des percées et a commencé à atteindre le grand public du côté des consommateurs, la société tout entière a progressivement réalisé une chose : avec le développement explosif de l'intelligence artificielle, l'intelligence artificielle générale peut égaler, voire dépasser l'intelligence humaine. sous tous ses aspects. L’intelligence (AGI) est susceptible d’apparaître dans un avenir proche. La Matrix dans "The Matrix", MOSS dans "The Wandering Earth", la "vieille chose" dans "The Guest"…

Comment allons-nous gérer ces superintelligences lorsqu’elles arriveront ?

Il est très probable que la société dans son ensemble doive établir un nouvel ensemble de normes comportementales, notamment sur la manière de définir légalement l’IA, sur la manière de la traiter moralement et sur la question de savoir si les humains et l’IA sont véritablement égaux ou ont leurs propres priorités…

Si oui, qui est dominant ?

Récemment, l'écrivain de science-fiction Han Song a posé cette question : « Quel impact l'intelligence artificielle et le métavers auront-ils à l'avenir sur les relations entre les sexes ? Le concept de famille va-t-il disparaître ?

L’amour et la famille sont généralement considérés comme les domaines centraux des émotions humanistes dans la société traditionnelle et constituent l’intimité des êtres humains.

À Hollywood, vous voyez le protagoniste de la série "Fast and Furious" débordant de puissance de combat à cause de l'expression "famille". Même s'il se plaint des absurdités du scénariste, vous ne vous opposez pas au cœur de ce modèle d'intrigue – les liens émotionnels sont étroitement lié au potentiel humain.

Le sous-texte de la question de Han Song est le suivant : une nouvelle vie intelligente peut entrer dans la zone centrale de la conscience humaine.

Si les informations fournies par les experts techniques sont correctes, nous devons alors réfléchir sérieusement à certaines choses. Par exemple, formerons-nous une famille avec l’IA ?

Ce n'est pas seulement une question juridique, mais aussi une question de survie de « l'anthropocentrisme ». L'éthique sociale à l'ère de l'IA est si complexe que la plupart des gens n'y sont pas prêts.

1. Amour du Créateur : Les êtres humains sont toujours amoureux d’eux-mêmes

Musk a annoncé plus tôt cette année qu'il lancerait un robot Catwoman pour devenir le « compagnon idéal » des consommateurs masculins. Ce robot a l'apparence sexy de Catwoman et serait capable de s'occuper des tâches ménagères, de prendre soin de la vie de son propriétaire et même de donner naissance à des enfants.

Mais personne ne demandera "Puis-je fonder une famille avec le robot Catwoman ?", car il s'agit toujours d'une sorte d'appareil d'IA, d'une marchandise sans personnalité, plutôt que d'une vie intelligente équivalente à celle des humains.

Lorsque nous parlons d'amour et de famille, l'IA impliquée doit être une « nouvelle espèce » qui dépasse la limite de Turing, génère la conscience de soi et dépasse même de loin les humains en termes d'intelligence.

Jusqu’à présent, la plupart de nos œuvres littéraires et artistiques n’ont pas réellement mis en place ce type d’IA, seulement quelques images spécieuses de « copines robots ».

Il existe un modèle dans les bandes dessinées japonaises et les romans légers japonais, semblable au premier "Humanoid Computer Angel Heart". La structure de l'histoire est "otaku + petite amie robot sous la forme d'une fille douce". Le robot apprend et comprend progressivement les émotions humaines tout en s'entendre avec les humains. , et a finalement achevé l'évolution de « devenir un humain » grâce au lien avec le protagoniste masculin.

Il s'agit en fait d'un récit anthropocentrique typique. En plus d'être des formes de vie à base de silicium, ces ordinateurs humanoïdes n'ont aucune différence essentielle avec les « créatures extraterrestres » de la fantasy traditionnelle :

Ils ont des capacités surnaturelles qui dépassent de loin la force physique des humains, mais ils n'ont pas nécessairement une intelligence supérieure à celle des humains. Surtout lorsqu'il s'agit de questions fondamentales telles que les émotions, ils sont plus naïfs que les humains, et ils obéissent et aspirent toujours aux émotions humaines. motifs. .

La super IA sera-t-elle aussi comme ça ? C’est le « problème d’alignement » que les principales institutions de recherche telles qu’OpenAI tentent de surmonter.

Les gens standardisent l’apprentissage et la création de l’IA traditionnelle en utilisant l’apprentissage par renforcement avec retour humain (RLHF), dans lequel les humains évaluent et supervisent les résultats de l’IA à l’aide de divers outils.

Face à une super IA « beaucoup plus intelligente » que les humains, en partant du principe que la limite de l'intelligence humaine reste inchangée (ou qu'elle est difficile à améliorer rapidement), lorsque la capacité de l'IA dépasse un certain point critique, le RLHF échouera, c’est-à-dire que les humains ne peuvent pas évaluer plus efficacement les projets d’intelligence artificielle.

Jan Leike, actuellement responsable de l'équipe Open AI « Super Alignment », a proposé d'investir 20 % de la puissance de calcul d'Open AI pour créer un système « Super Alignment », permettant à l'IA d'évaluer les projets d'IA et d'établir un système de supervision évolutif.

L'idée de Jan LeiKe est d'introduire une expérience contrôlée randomisée (ECR avec réponses falsifiées) en falsifiant les réponses, en créant artificiellement des réponses avec des défauts pour mesurer l'effet d'une supervision évolutive – en théorie, la solution des maîtres. Bien sûr, elles sont toutes belles.

Cependant, l'idée d'ajouter une « malédiction » à l'IA n'est pas rassurante : dès les années 1940, le roman de science-fiction d'Asimov « Moi, Robot » proposait les fameux « Trois principes de la robotique ». " garantit que les robots et les humains peuvent coexister pacifiquement.
Il est intéressant de noter que presque toutes les œuvres littéraires et artistiques depuis des décennies ont imaginé la même chose : comment les robots peuvent franchir cette barrière de sécurité et nuire aux humains.

Jusqu'à récemment, la série télévisée nationale "The Bionic World" ne s'éloignait toujours pas de ce stéréotype…

Les êtres humains sont si intéressants. En tant que « créateurs » imparfaits, nous sommes pleins de méfiance et de peur à l'égard de nos créations, mais nous n'hésitons toujours pas à créer une « machine » qui pourrait nous surpasser.

L'esprit d'Homo sapiens d'« essayer constamment de mourir » sur le chemin de l'évolution est depuis longtemps gravé dans les gènes de cette espèce. C'est aussi grâce à ce progrès continu que l'homme a créé une brillante civilisation.

Alors… le Créateur peut-il tomber amoureux de sa création ? C'est évidemment possible. L'IA est le « surmoi » des humains, et pour les humains, tomber amoureux du « surmoi » est une chose courante.

Il existe des histoires similaires dans les mythes de divers groupes ethniques : des fées, des elfes et des déesses se baignent dans le monde, un jeune homme lui vole ses vêtements et les deux tombent amoureux. Le bouvier en Orient a connu un tel succès. Dans la mythologie celtique en Occident, il y a aussi des histoires de pêcheurs volant les peaux de phoques des fées et les laissant rester sur l'île…

Dans ces histoires, la logique selon laquelle les mortels tombent amoureux des déesses est très logique, car ces dieux sont des êtres humains parfaits, dotés de pouvoirs surnaturels et d'une beauté étonnante – tout est fait par les gens selon leur apparence préférée.

La soi-disant homosexualité entre les dieux et les humains devrait être exprimée autrement. Les dieux ont été créés à l'origine par les êtres humains sur la base de leur « imagination du surmoi ». Il n'y a naturellement aucune barrière émotionnelle entre les dieux et les humains. Zeus admirerait également la beauté d'un mortel. femme et se transformera en cygne pour posséder Léda. Aphrodite tombera également amoureuse du beau garçon, et la Tisserande pensera qu'il est bon d'être avec le vacher…

Concernant la question de l'IA, l'identité des êtres humains semble avoir changé, mais l'IA et les dieux partagent les mêmes attributs, et ils sont tous deux des produits de « l'imagination du surmoi » des êtres humains.

Dans "Le problème des trois corps", Luo Ji a dessiné le Zhuang Yan de son partenaire parfait, qui était le look qu'il admirait le plus. La déesse et l'IA étaient essentiellement le "Zhuang Yan" dessiné par les humains pour eux-mêmes.

2. Les déesses peuvent-elles aussi tomber amoureuses des mortels ?

Ensuite, nous devons faire face à une autre question : la super IA tombera-t-elle amoureuse des humains ?

Il existe de nombreuses raisons pour lesquelles les humains tombent amoureux de l'IA. Par exemple, ils peuvent se transformer en de belles apparences et posséder des capacités extraordinaires parce qu'ils satisfont les « fantasmes du surmoi » des humains. Mais quelles sont les raisons pour lesquelles l'IA tombe amoureuse des humains ?

Comme l'a déclaré Huang Tiejun, doyen de l'Institut de recherche intelligente de l'Université de Pékin, en réponse à la question de Tencent News « 20 personnes et 20 questions en 20 ans », après l'émergence de la super intelligence, les problèmes sont très compliqués. faire confiance à l'IA ? », il y a aussi « Comment l'IA peut-elle faire confiance aux humains ?

Dean Huang a déclaré que, tout comme le processus d'établissement d'une confiance mutuelle entre les gens, les gens et l'IA doivent passer par une période de rodage et doivent « écouter ses paroles » et « observer ses actions », c'est-à-dire en partageant les connaissances. construit par les humains à l'aide du langage et du système, et teste en pratique si ce que dit l'IA est cohérent avec la réalité pour confirmer si une confiance mutuelle peut être établie avec l'IA – en fait, le système de confiance de la société humaine se construit progressivement de cette manière.

Concernant la question de savoir si les gens tombent amoureux de l'IA, la réponse est similaire : le fait que l'IA tombe amoureux des gens dépend non seulement du fonctionnement et de l'évolution de l'IA, mais aussi des humains eux-mêmes.

Le professeur Ma Zhaoyuan de l'Université des sciences et technologies du Sud a également donné une réponse perspicace dans « 20 personnes, 20 questions » : Nous savons de plus en plus clairement que la raison pour laquelle les humains naviguent sur une si petite planète dans le vaste univers est due à la grandeur de sagesse humaine.

Une telle sagesse inclut la raison mais n’est pas limitée par la raison. Parce que nous connaissons les limites de la rationalité, cette limitation a besoin de la sensibilité humaine pour la compenser et a besoin de la sensibilité humaine pour nous guider. Cela pourrait être la norme dans notre future symbiose avec les machines.

Nous les guidons et coopérons avec eux, et ils peuvent faire de plus en plus de choses, devenant de plus en plus fiables (dignes de confiance), et par conséquent, la sensibilité des gens gagne de plus en plus de liberté.

Nous pouvons deviner sur cette base qu’il est possible qu’une super IA tombe amoureuse des humains.

Tout comme la façon dont la sagesse de l’IA est générée est encore une « boîte noire » qui nous est inconnaissable, les humains auront également une partie « boîte noire » de l’IA qui ne peut pas être comprise par la pure rationalité.

Nous attendons avec impatience de percer la « boîte noire » de l'IA, et l'IA tentera également de briser la « boîte noire » des humains. Dans le processus de « se casser » les uns les autres, ils parviennent non seulement à « s'aligner sur les humains » dans termes de valeurs et de sagesse, mais aussi atteindre Des modules émotionnels similaires à ceux des humains seront générés, leur permettant de transcender la barrière des « espèces » pour apprécier et admirer une vie intelligente qui est cohérente avec leur propre esprit.

Beaucoup de choses sont encore inconnues, mais c'est précisément le « X » qui représente l'inconnu et qui contient les éléments qui rendent le monde passionnant. La déesse peut tomber amoureuse des gens, pourquoi l'IA ne le peut-elle pas ?

3. Le « genre » semble être un concept dépassé, mais l'essence de la famille est la relation de propriété

Revenons à la question soulevée par l'écrivain de science-fiction Han Song lors de l'événement « 20 questions pour 20 personnes en 20 ans » spécialement prévu pour le 20e anniversaire de Tencent News : « Quel impact l'intelligence artificielle et le métaverse auront-ils sur les relations de genre en L’avenir ? Le concept de famille va-t-il disparaître ? ?」

Dans sa réponse, son ami Chen Qiufan a estimé que le métavers contient intrinsèquement des hypothèses sur les futures relations de genre et de famille, et que les relations de genre et de famille à l'avenir deviendront de plus en plus diversifiées.

Les relations entre les sexes ne se limiteront plus à l'existence physique. La connexion émotionnelle et la résonance spirituelle deviendront dominantes. Dans le même temps, il y aura davantage de phénomènes « transfrontaliers » dans la relation entre les sexes. Par exemple, les frontières entre réel et virtuel dans "The Matrix" permettra aux futurs couples de la traverser.

En fait, "l'amour" en lui-même est un concept difficile à discuter. Lorsque nous discutons de "possibilité", l'amour est toujours possible.

Il peut exister entre des familles en conflit, entre des célébrités, des aristocrates et des démunis, entre des sexes différents, et peut même transcender les barrières raciales et exister entre les terriens et la vie extraterrestre ou même la non-vie… L'amour est super utilitaire, super hiérarchique, super-rationnel, dans un sens, cela signifie aussi qu’il peut sortir du cadre logique à tout moment.

Si l’IA évolue réellement vers une super intelligence, généreront-elles le facteur instable « amour », ou l’exclureont-elles en tant que données invalides ? Si l’on regarde dans la direction de « l’alignement avec les humains », il semble plus probable que ce soit la première solution.

Relativement parlant, la « famille » est un sujet plus rationnel.

Engels a conclu un jour dans « L'origine de la famille, de la propriété privée et de l'État » que l'essence de la famille est un rapport de propriété. Après que la productivité ait suffisamment progressé pour retenir les produits excédentaires, la propriété publique a progressivement cédé la place à la propriété privée. Dans un sens, des concepts tels que le mariage, le clan, la famille… sont tous des sous-produits de la propriété privée.

La famille est un concept changeant. Il existe de grandes différences entre les familles féodales et les familles modernes, ainsi que de grandes différences entre les clans primitifs et les familles féodales. Ce concept changeant s'adapte essentiellement aux changements des formes sociales.

Et l'éthique est quelque chose qui sert la forme sociale. Une partie importante de « L'éthique protestante et l'esprit du capitalisme » de Max Weber est la combinaison de l'esprit de profit et de la légitimité ultime du capitalisme avec les formes religieuses, et estime que les gains commerciaux. conforme à l’éthique protestante et peut être considéré comme le but ultime de la vie. L’éthique religieuse ancienne doit servir le nouveau capitalisme, et toute l’histoire est une histoire contemporaine.

Alors, lorsque l’IA intervient dans les émotions humaines, la vaste combinaison des humains et de l’IA va-t-elle changer la forme fondamentale de la famille, voire même faire disparaître la famille ?

Si l’on réfléchit essentiellement à cette question, la question se pose en réalité : l’IA va-t-elle changer la propriété privée ? L’« esprit du capitalisme » va-t-il disparaître ?

La réponse est facile à donner : l’émergence de la super IA est à notre portée et n’ébranlera pas la propriété privée. La stabilité de l’éthique familiale vient essentiellement du système de propriété plutôt que de l’amour ou autre.

Par exemple, lorsque le père n'est plus le noyau absolu de la source de revenus de la famille, la famille patriarcale féodale se désintègre progressivement, mais la société moderne conserve toujours la famille, ce qui signifie que les gens modernes ont toujours besoin de cette façon d'organiser et de distribuer la propriété.

La capacité de l’IA à bouleverser la structure familiale existante dépend de sa capacité à participer à la répartition de la richesse sociale. Lorsque l’IA elle-même était encore une sorte de « propriété », les familles diversifiées étaient hors de question.

Le professeur Chen Qiufan parle d'un avenir lointain. Ce n'est que lorsque l'IA brisera les limitations physiques et maîtrisera la répartition des richesses que nous verrons probablement davantage de familles communautaires basées sur des intérêts, des valeurs ou des modes de vie communs plutôt que sur des liens de sang.

À ce moment-là, la société conservera-t-elle encore une propriété privée fondamentale ? Si les fondements de la propriété privée sont ébranlés, il est tout à fait concevable que le concept de famille disparaisse dans l’histoire.

"20 personnes, 20 questions" n'est qu'un début. L'humanité discutera de l'IA avec une fréquence et une intensité élevées dans un avenir proche. Historiquement, les changements dans la forme sociale entraînés par les améliorations de la productivité ont toujours été la question la plus importante, sans exception.

L'amour et la famille ne représentent qu'une petite partie de ce grand problème. Il est lié à la façon dont nous comprenons la société et nous-mêmes. Ce n'est qu'après une longue période de réflexion que nous pourrons parvenir à une conclusion par étapes.

Et une chose est sûre : nous ne pouvons pas arrêter de poser des questions.

Note de l'éditeur : cet article est tiré de "Deep Eyes Business 2022", écrit par Hema Jun et Chu Qingzhou, et publié par Aifan'er avec autorisation

# Bienvenue pour suivre le compte public officiel WeChat d'Aifaner : Aifaner (WeChat ID : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo