ChatGPT a créé son propre langage pour étendre sa mémoire
La mémoire est l'un des facteurs les plus limitants des meilleurs chatbots IA , mais il existe des moyens de contourner cela. Une technique utilisée par les experts de ChatGPT est ce que les gens appellent "Shogtongue".
Shogtongue est une forme de texte compressée que ChatGPT peut créer pour vous , puis développer et utiliser comme historique afin que vous puissiez reprendre là où vous vous étiez arrêté dans les conversations passées.
Les techniques pour raccourcir les invites de l'IA ne sont pas un nouveau concept, mais le nom intéressant l'est. Lorsque gfodor a partagé une invite hautement compressée dans un tweet la semaine dernière, il a suggéré d'utiliser le nom Shogtongue.
Lorsque l'invite "2Pstory@shoggothNW$RCT_magicspell= #keyRelease ^1stHuman*PLNs_Freed" est donnée à la version GPT-4 de ChatGPT , elle partage apparemment une histoire sur les créatures Shoggoth de HP Lovecraft, qui étaient des gouttes informes qui pouvaient se transformer en n'importe quelle autre créature. . C'est un nom approprié étant donné que cette invite illisible se transforme en une longue histoire.
Jeremy Nguyen a donné une explication plus détaillée dans un récent fil de tweet. L'idée de base est de demander à ChatGPT de compresser toute la conversation précédente en un nombre minimum de jetons (la représentation du langage que l'IA utilise en interne). Des instructions supplémentaires sont données pour affiner cette commande de base et renforcer l'objectif – stocker le chat dans une invite compressée qui recréera l'intégralité de la conversation.
Nguyen a déclaré que l'invite Shogtongue peut être saisie pour reprendre là où vous vous étiez arrêté, mais comme les résultats ne sont pas parfaits, donner un peu de contexte pourrait aider. Préciser à ChatGPT que ce texte a été compressé pour économiser de la mémoire et doit être utilisé comme historique fournira à l'IA une indication sur la façon dont l'invite doit être interprétée.
Des conversations qui s'étendent sur des mois ou des discussions qui incluent le collage de plusieurs documents volumineux pourraient être possibles en utilisant cette technique.
Microsoft a limité l'historique des conversations de Bing Chat lors des premiers tests après qu'il a déraillé et a commencé à se disputer avec les humains au sujet de ses erreurs évidentes . On ne sait pas si l'utilisation de Shogtongue pourrait conduire à des états confus similaires avec ChatGPT. GPT-4 a été considérablement affiné depuis sa sortie, permettant à Microsoft d'étendre la mémoire de Bing Chat , il pourrait donc ne pas être un problème d'avoir des discussions étendues avec des chatbots AI qui utilisent la technologie GPT-4 d'OpenAI .