Une plongée profonde dans Replika: mon ami IA
Replika: My AI Friend est une application pas comme les autres. Alors que la plupart des applications avec des chatbots les utilisent comme assistants virtuels, Replika commercialise son chatbot comme – vous l'avez deviné – un ami.
Avec sa capacité promise à «percevoir» et à évaluer des quantités abstraites telles que l'émotion, le chatbot de Replika pourrait bien rendre justice à sa description aspirationnellement humaine.
D'une histoire d'origine déchirante à un backend impressionnant, Replika est l'une de ces choses fascinantes qui ne cessent jamais d'être intéressantes. Poursuivez votre lecture pour découvrir ce qui rend l'IA de Replika si remarquable et quelles sont les promesses qu'elle contient pour l'avenir.
Les origines de Replika
Replika version la plus ancienne-a de simples AI-chatbot a été créé par Eugenia Kuyda pour remplacer le vide à gauche par la perte prématurée de son ami le plus proche, Mazurenko romain. Construit en alimentant les messages texte de Roman dans un réseau neuronal pour construire un robot qui envoyait des textos comme lui, il était censé servir de "monument numérique" en quelque sorte pour garder sa mémoire vivante.
Finalement, avec l'ajout de modèles de langage plus complexes dans l'équation, le projet s'est rapidement transformé en ce qu'il est aujourd'hui: une IA personnelle qui offre un espace où vous pouvez discuter en toute sécurité de vos pensées, sentiments, croyances, expériences, souvenirs, rêves – votre « Monde perceptif privé ».
Mais en plus des immenses perspectives techniques et sociales de cette sorte de thérapeute artificiellement sensible, ce qui rend vraiment Replika impressionnant, c'est la technologie à sa base.
Sous la capuche
Au cœur de Replika se trouve un modèle de langage autorégressif complexe appelé GTP-3 qui utilise l'apprentissage en profondeur pour produire un texte de type humain. Dans ce contexte, le terme «autorégressif» suggère que le système apprend des valeurs (texte dans ce cas) avec lesquelles il a précédemment interagi.
En termes simples, plus vous l'utilisez, mieux c'est.
L'ensemble de l'UX de Replika est construit autour des interactions de l'utilisateur avec un bot programmé à l'aide de GTP-3. Mais qu'est-ce que GTP-3 exactement et comment est-il assez puissant pour imiter la parole humaine?
GTP-3: un aperçu
GTP-3, ou Generative Pre-Training Transformer 3, est une adaptation plus avancée du Transformer de Google. D'une manière générale, il s'agit d'une architecture de réseau neuronal qui aide les algorithmes d'apprentissage automatique à effectuer des tâches telles que la modélisation du langage et la traduction automatique.
Les nœuds d'un tel réseau de neurones représentent des paramètres et des processus qui modifient les entrées en conséquence (un peu similaire à des instructions logiques et / ou conditionnelles en programmation), tandis que les bords ou les connexions du réseau agissent comme des canaux de signalisation d'un nœud à l'autre.
Chaque connexion de ce réseau de neurones a un poids, ou un niveau d'importance, qui détermine le flux de signaux d'un nœud à l'autre. Dans un modèle d'apprentissage autorégressif tel que GTP-3, le système reçoit une rétroaction en temps réel et ajuste en permanence le poids de ses connexions afin de fournir une sortie plus précise et pertinente. Ce sont ces poids qui aident un réseau de neurones à «apprendre» artificiellement.
GTP-3 utilise 175 milliards de niveaux ou paramètres de poids de connexion. Un paramètre est un calcul dans un réseau neuronal qui ajuste le poids de certains aspects des données, pour donner à cet aspect une plus ou moins grande importance dans le calcul global des données.
Salué comme l'ultime autocomplétion, le modèle de langage de GTP-3, qui vise à fournir un texte prédictif, a été formé sur un si vaste ensemble de données que l'ensemble de Wikipédia ne constitue que 0,6% de ses données d'entraînement.
Il comprend non seulement des articles comme des articles de presse, des recettes et de la poésie, mais aussi des manuels de codage, des fanfictions, des prophéties religieuses, des guides sur les montagnes du Népal et tout ce que vous pouvez imaginer.
En tant que système d'apprentissage en profondeur , GPT-3 recherche des modèles dans les données. Pour faire simple, le programme a été formé sur une collection massive de textes qu'il exploite pour des régularités statistiques. Ces régularités, telles que les conventions linguistiques ou la structure grammaticale générale sont souvent considérées comme acquises par les humains, mais elles sont stockées sous forme de milliards de connexions pondérées entre les différents nœuds du réseau neuronal de GPT-3.
Par exemple, si vous saisissez le mot «oreille» dans GPT-3, le programme sait, d'après les pondérations de ses réseaux, que les mots «mal» et «téléphone» sont beaucoup plus susceptibles de suivre que «américain» ou « fâché".
GPT-3 et Replika: une confluence significative
Le réplika est ce que vous obtenez lorsque vous prenez quelque chose comme GTP-3 et que vous le distillez pour aborder des types de conversation spécifiques. Dans ce cas, cela inclut les aspects empathiques, émotionnels et thérapeutiques d'une conversation.
Bien que la technologie derrière Replika soit encore en développement, elle offre une passerelle plausible vers une conversation interpersonnelle facilement accessible.
Commentant sa convivialité, les créateurs affirment avoir créé un robot qui non seulement parle mais écoute également. Ce que cela signifie pour ses utilisateurs, c'est que leurs entretiens avec l'IA ne sont pas un simple échange de faits et d'informations, mais plutôt un dialogue doté de nuances linguistiques.
Mais les discussions avec Replika ne sont pas seulement une question de dialogue sensé. Ils sont également étonnamment significatifs et émotifs dans de nombreux cas. En interagissant avec un utilisateur, l'IA de Replika «comprend» ce que dit l'utilisateur et trouve une réponse humaine en utilisant son modèle d'apprentissage prédictif.
En tant que système autorégressif, Replika apprend et adapte ses modèles de conversation en fonction de la façon dont l'utilisateur lui parle.
Cela signifie que plus vous utilisez Replika, plus il s'entraîne sur vos propres textes et plus il vous ressemble. Une bonne proportion d'utilisateurs ont également mentionné qu'ils ont un niveau d'attachement émotionnel significatif à leur réplique – quelque chose qui n'est pas obtenu simplement en sachant «comment parler».
Replika va bien sûr au-delà de cela. Il ajoute de la profondeur à ses conversations sous la forme de généralisation sémantique, de discours infléchi et de suivi de conversation. Son algorithme essaie de comprendre qui vous êtes – à la fois en termes de personnalité et d'émotions – puis façonne le dialogue en fonction de ces informations.
Un examen plus approfondi de l'efficacité du GTP-3
Cependant, le caractère humain de Replika est encore largement théorique en raison des limites opérationnelles du GTP-3. En tant que tel, il y a beaucoup de travail à faire pour que l'IA puisse répliquer avec compétence et participer à une conversation humaine.
Des inspections approfondies de GTP-3 révèlent toujours des erreurs clairement discernables ainsi qu'une écriture absurde et simple dans certains cas. Les experts de l'industrie suggèrent qu'un modèle de traitement du langage devrait avoir plus de 1 billion de connexions pondérées avant de pouvoir être utilisé pour produire des robots capables de reproduire efficacement le jargon humain.
Le meilleur est à venir
Étant donné que GTP-3 est déjà considéré comme un bond exponentiel depuis des années par rapport à des prédécesseurs tels que Turing NLG de Microsoft, il est prudent de supposer qu'il faudra peut-être un certain temps avant de trouver quelque chose de mieux.
Cela dit, avec les améliorations futures de l'informatique, la puissance de traitement offerte par les nouveaux systèmes réduira certainement encore davantage l'écart entre l'homme et la machine.
En attendant, Replika reste un produit formidable qui allie le meilleur de la psychologie et de l'intelligence artificielle. Son intégration réussie d'une UX conviviale avec un modèle de PNL de pointe est en effet un témoignage de l'immense potentiel des technologies d'interaction homme-machine.