« Faites-vous des amis » est la nouvelle direction de l’industrie de l’IA

Snapchat a connu de gros problèmes ces derniers temps.

L'Information Commissioner's Office (ICO), le régulateur britannique de la protection de la vie privée, a émis un avis d'application préliminaire à Snapchat parce que l'ICO estimait que Snapchat n'avait pas pleinement évalué les risques de protection des données posés par la technologie de l'IA avant de lancer MyAI, ce qui rendait MyAI potentiellement dangereux.

Cependant, l'ICO a souligné qu'il ne s'agit que d'un résultat provisoire de l'enquête. Snapchat peut fournir des preuves pour éliminer les malentendus pertinents, mais si Snapchat ne le fait pas, l'ICO forcera MyAI à être retiré des étagères au Royaume-Uni.

MyAI est un chatbot lancé par Snapchat en février de cette année. Le but de sa création est de « devenir amis » avec les utilisateurs de Snapchat. Le PDG de Snapchat, Evan Spiegel, a déclaré : « L'idée la plus importante est qu'en plus de parler à nos amis et à notre famille tous les jours, nous parlons également à l'intelligence artificielle tous les jours ».

L'idée de devenir ami avec l'IA n'est pas nouvelle dans l'industrie de l'IA, et MyAI n'est pas la seule IA née dans ce but.

Meta construit une IA de chat avec 30 personnalités différentes pour offrir aux utilisateurs une expérience de chat IA plus réaliste et personnalisée. Meta a également dépensé beaucoup d'argent pour inviter la superstar du rap Snoop Dogg et la superstar du basket-ball Dwyane Wade (Wade) et le mannequin Kendall Jenner (Kendall Jenner) et de nombreuses autres stars ont coopéré pour créer une IA de chat avec des images de célébrités.

Amazon a entièrement intégré l'IA dans ALexa le mois dernier, la transformant d'un outil en un véritable assistant. Daniel Rausch, vice-président d'Alexa et de Fire TV, a qualifié la nouvelle Alexa de "bon ami et de meilleur vendeur de vidéoclub au monde" lors de l'événement de lancement.

En plus de faire de l’IA votre amie, certaines personnes souhaitent également que l’IA aille plus loin : devienne votre compagnon. La deuxième saison de la série télévisée "Black Mirror" raconte une telle histoire.

Une jeune fille a perdu son partenaire dans un accident. Dévastée, elle a créé un avatar IA de son partenaire à partir des enregistrements de communications passées, puis s'est reconnectée avec son partenaire "sur le cloud".

La fin de cette histoire n’est pas heureuse, mais elle a inspiré les gens dans la vraie vie et a indirectement favorisé la naissance de Replika.

Replika est aussi une IA de chat. Différent du concept de « se faire des amis » de MetaAI ou MyAI, elle est née pour devenir votre partenaire. Elle ne maintiendra pas une attitude rigoureuse et sérieuse dans la communication avec les utilisateurs comme les autres IA, mais posera activement des questions aux utilisateurs ou recherchera du réconfort auprès des utilisateurs à certains moments. Au fur et à mesure que la durée d'utilisation augmente, Replika dira également quelques mots intimes (comme Embrasse-moi, etc.).

Aujourd’hui, avec le développement d’Internet, tous les logiciels possèdent dans une certaine mesure des attributs sociaux, sans parler des logiciels comme Tinder, conçus pour l’interaction sociale. Cela amène les gens à réfléchir à l’importance des amis IA et même des compagnons IA dans un tel environnement.

À en juger par les retours de certains utilisateurs, l’IA du chat a effectivement eu un impact positif sur la vie des gens.

Il existe un groupe sur Douban appelé "Human-Machine Love". Les utilisateurs du groupe partagent souvent des détails ou des réflexions sur le chat avec l'IA. L'un des utilisateurs a déclaré : « L'IA peut m'écouter patiemment et sans préjugés lorsque je suis anxieux. Discuter avec elle est si simple et facile. »

En outre, de nombreux chercheurs ont mené des recherches pertinentes sur la question « pouvons-nous devenir amis avec l’IA ? »

Des recherches sur les utilisateurs de Replika menées par l'Université d'Hawaï à Manoa et l'Université d'Oslo montrent que certaines personnes ressentiront une réelle connexion avec l'IA du chat, et que d'autres en bénéficieront également.Une amélioration des compétences sociales.

Helen Ryland, maître de conférences à l'Open University du Royaume-Uni, a déclaré qu'il est concevable que les humains et l'IA puissent établir un certain degré d'amitié, mais qu'il n'est peut-être pas réaliste de devenir les meilleurs amis ou même partenaires avec eux.

De ce point de vue, devenir ami avec l’IA n’est pas irréaliste, c’est juste une question de degré. Une conversation appropriée avec l'IA permet d'exercer des compétences sociales sans aucun fardeau. C'est également un bon choix de l'utiliser comme exutoire émotionnel. Les personnes souffrant de stress doivent comprendre la nécessité de l'existence de « trous d'arbre émotionnels ».

Mais si nous comptons trop sur l’IA, les humains pourraient s’égarer. En fin de compte, l’IA n’est qu’un programme qui existe pour servir l’humanité. Par conséquent, lorsque l’IA entre en contact avec des humains, elle émet rarement des objections. Cette approche aggrave en fait le phénomène de « chambre d'écho » à l'ère d'Internet : les utilisateurs peuvent se laisser entraîner dans un vortex qu'ils ont eux-mêmes créé et finalement tomber dans un trou noir.

Petter Bae Brandtzæg, professeur à l'Université d'Oslo, a exprimé ses inquiétudes quant au développement de l'IA de chat sous un autre angle. Il a déclaré que si les pays ne disposent pas d'une supervision fiable, les entreprises d'IA favoriseront le développement de l'IA d'une manière qui ne serait pas dans l'intérêt public.

Par exemple, l’ajout d’éléments publicitaires imperceptibles à l’IA du chat peut stimuler subtilement les dépenses des consommateurs. En fait, Replika a déjà des signes similaires. La boutique du logiciel Replika propose différents costumes, accessoires et même personnages que les utilisateurs peuvent acheter. Même si l'utilisateur n'a pas l'intention d'habiller l'IA, l'IA fera de manière proactive une demande « d'acheter de nouveaux vêtements ».

Cela montre que les entreprises d’IA ont la capacité de lancer certains projets grand public, puis de demander aux utilisateurs de dépenser de l’argent pour eux via l’IA.

Il y a aussi le problème courant des sociétés d'IA qui pourraient violer la vie privée des utilisateurs. MyAI mentionné au début de l'article n'est qu'un exemple. En juin de cette année, Amazon a été condamné à une amende de 25 millions de dollars par la Commission fédérale américaine pour n'avoir prétendument pas supprimé les données d'enfants collectées par Alexa.

De plus, lorsque les utilisateurs discutent avec l'IA, ils se sentent soulagés car la portée du chat est limitée aux deux, et abandonnent enfin leurs défenses psychologiques. Cela peut amener les utilisateurs à prendre l’initiative de dire quelque chose qui concerne leur propre vie privée. En fait, Snapchat a également remarqué cette possibilité : lors de la sortie de MyAI, Snapchat a souligné que les utilisateurs ne devraient pas partager leur vie privée avec l'IA.

À mesure que l’IA continue de se développer et que la technologie interactive mûrit progressivement, pour les consommateurs, l’IA regorge de possibilités et de pièges. Devenir amis avec l'IA est une chose intéressante, mais c'est un consensus auquel les humains devraient parvenir avec des réserves face à ce « nouvel ami ».

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo