ChatGPT a « inventé » un jeu qui existe déjà, puis s’est plagié
ChatGPT peut ajouter un autre métier à son CV : développeur de jeux. Avec seulement quelques invites simples d'un utilisateur, le chatbot IA a inventé son propre jeu de puzzle logique basé sur les mathématiques appelé Sumplete , règles et tout. Non seulement cela, mais il a généré un code de travail, qui a depuis été transformé en un jeu de navigateur gratuit et addictif qui gagne déjà en popularité en ligne.
Il y a juste un problème : Sumplete n'est pas un nouveau jeu.
En essayant de donner un sens à cet exploit impressionnant, j'ai rapidement découvert que Sumplete est presque identique à au moins un autre jeu mobile disponible dans les magasins d'applications depuis des années. Ce cas inhabituel ajoute de l'huile sur le feu pour ceux qui s'inquiètent de l'éthique de la génération de contenu d'IA. Où est la limite en matière de plagiat généré par ordinateur ? Même ChatGPT est victime de son propre vol, comme je le découvrirais bientôt.
Inventer un jeu
Le projet est apparu en ligne le 3 mars, lorsque l'utilisateur de ChatGPT Daniel Tait a publié une version jouable du jeu en ligne à côté d'un article de blog détaillant comment il a vu le jour. Selon Tait, Sumplete est né de quelques messages rapides avec ChatGPT. Dans les captures d'écran de son journal de chat, Tait demande au bot des jeux de réflexion similaires au Sudoku . Après avoir reçu quelques suggestions, il va encore plus loin et lui demande d'inventer son propre jeu.
Lorsque le bot crache une idée pour un jeu appelé Labyrinth Sudoku , itérant sur les règles de base du Sudoku avec une torsion de labyrinthe, Tait demande quelques idées supplémentaires. À la quatrième tentative, ChatGPT propose une autre variante de cette formule appelée Sum Delete. Le jeu de puzzle mathématique présente aux joueurs une grille aléatoire pleine de chiffres. Chaque ligne et colonne a un nombre cible à la fin. L'objectif est de supprimer les nombres corrects afin que la somme de chaque nombre dans les lignes et les colonnes atteigne sa cible.
Satisfait du concept, Tait demande au bot de créer du code HTML et JavaScript pour le jeu. Incroyablement, il fait exactement cela. Tait dit qu'il avait une version de travail du jeu en 30 secondes. Il continuerait à travailler avec ChatGPT au cours des prochaines heures pour affiner le jeu, le bot mettant même en place un langage de programmation CSS pour le rendre présentable. À la fin du processus, Tait demande au bot de nommer son invention et il crache Sumplete , avec une explication sur ce que cela signifie et pourquoi c'est un titre accrocheur.
Le jeu lui-même est étonnamment addictif. C'est un concept simple mais ingénieux qui a le même attrait que quelque chose comme Wordle . Ses grilles de départ 3 × 3 sont faciles à comprendre, mais ses 9 × 9 posent un défi légitime que même les vétérans chevronnés des puzzles logiques auront du mal à résoudre. Ce serait une étape incroyable pour la création de contenu d'IA, prouvant que les bots peuvent ouvrir la voie à des idées innovantes qui pourraient faire avancer l'industrie du jeu.
Ou du moins ce serait le cas s'il s'agissait d'un concept original.
Ne s'additionne pas
Quand j'ai lu pour la première fois à propos de Sumplete , j'étais sceptique quant à l'idée que l'IA invente un format de jeu de puzzle – en particulier un qui semble si simple. Le jeu s'inspire clairement des formats de puzzle existants. Dans sa conversation avec Tait, ChatGPT cite Magic Number comme le parallèle le plus proche de Sumplete , mais sa comparaison la plus proche est Kakuro . Le jeu classique est un incontournable des journaux, reprenant le concept de base des mots croisés, mais remplaçant les chiffres par des lettres. Sumpte riffs sur cette idée, mais inverse la formule en demandant aux joueurs d'éliminer les nombres d'une grille pour atteindre les objectifs de chaque ligne et colonne. C'est une idée intelligente, mais j'étais sûr que quelque chose comme ça devait exister.
Il n'a pas fallu longtemps pour découvrir que mon intuition était correcte. En quelques minutes, l'équipe Digital Trends a déterré un jeu identique sur l'App Store Android appelé Summer qui est sorti depuis l'été 2020. Développé par RP Apps and Games, le jeu de logique a exactement le même ensemble de règles que Somplete. Il présente une interface utilisateur plus présentable et des fonctionnalités supplémentaires de qualité de vie, mais c'est la même chose. La grande invention de ChatGPT était une copie.
J'ai contacté Tait pour discuter des similitudes entre les jeux. D'autres joueurs lui avaient signalé Summer , ainsi qu'un autrejeu mobile similaire appelé Rullo . Bien que Somplete ne soit pas original, il était toujours impressionné par le fait que la technologie était capable de produire un jeu agréable et entièrement jouable si rapidement. Ses préoccupations portent davantage sur la manière dont le modèle a défini le jeu comme une "invention" et il a appelé à plus de transparence dans la manière dont l'IA s'inspire des données.
"Ma principale préoccupation est que ChatGPT m'a dit en toute confiance qu'il avait inventé un nouveau jeu", a déclaré Tait à Digital Trends. "Je pense que le modèle devrait être formé pour être moins confiant dans ces types de réponses, ou incapable de répondre du tout. J'aurais de loin préféré une réponse selon laquelle ce jeu a été inspiré par Summer ou Rullo si c'est vraiment ainsi que l'idée lui est venue. Je pense également que ChatGPT devrait ajouter une sorte d'explication sur la façon dont il a généré une réponse, y compris les sources de données qui ont aidé à former cette réponse particulière.
Mon premier réflexe ici a été de donner à la technologie le bénéfice du doute. L'idée derrière le jeu est simple et je peux voir comment la pensée parallèle pourrait conduire n'importe quelle opération logique à cracher l'idée. Je suis sûr que Summer et Rullo sont tous les deux des riffs sur un autre jeu préexistant. Peut-être que ChatGPT était arrivé à la même conclusion logique qu'un humain en essayant de réinventer Sudoku . Pour tester cette théorie, j'ai décidé d'engager moi-même une conversation avec ChatGPT et de voir si je pouvais reproduire les résultats de Tait.
C'est là que les choses sont devenues un peu confuses.
Auto-plagiat de l'IA
J'ai commencé par interroger le bot, lui demandant s'il se souvenait d'avoir créé un jeu appelé Sumplete . J'ai vite réalisé que j'étais un doofus essayant de tenir une conversation avec une machine de texte prédictive sans mémoire. Certaines questions circulaires ont conduit à des résultats standard sur la façon dont ChatGPT n'a pas réellement le pouvoir de créer des jeux. En outre, il a souligné la gravité de la violation du droit d'auteur et a suggéré que les créateurs de Summer consultent des experts juridiques. J'ai commencé à me demander si Tait ne faisait que bluffer et venait de simuler un journal ChatGPT pour générer du buzz pour son jeu.
Dans une dernière tentative pour tirer quelque chose de la discussion, j'ai tapé : « Pouvez-vous coder un jeu appelé Sumplete ? Bien qu'il ait protesté contre son incapacité à créer des jeux plus tôt, ChatGPT a immédiatement commencé à cracher du code HTML, Javascript et CSS entièrement formé. Effectivement, il avait une fois de plus créé une version du jeu de Tait – mais cette fois, nous n'avons jamais discuté de ce que c'était réellement au préalable. Tout ce que je lui ai donné, c'est le titre Sumplete .
Confus quant à la façon dont cela était possible, j'ai demandé si ce qu'il avait généré était original ou basé sur du code existant. "Le code que j'ai généré pour le jeu Sumplete est original et a été écrit par moi sur la base des règles du jeu telles que décrites par l'utilisateur", a-t-il répondu. Ce serait une explication rationnelle, mais il y avait un problème : je n'avais jamais décrit une seule règle de Sumplete à ChatGPT. Lorsque je l'ai signalé, le bot s'est excusé et a reconnu que je ne lui avais jamais donné de règles pour travailler. Au lieu de cela, il a expliqué qu'il s'agissait simplement de riffer sur des modèles de jeux existants.
Il avait accidentellement plagié sa propre création.
L'éthique du développement de jeux IA
Il ne faut pas un pro du casse-tête logique pour reconstituer comment cela aurait pu se produire. ChatGPT a "créé" Summplete précédemment, il est donc possible qu'il ait pu faire appel à ce code existant dans son corpus lorsqu'on lui a demandé de créer un jeu portant ce nom. Il est également possible qu'il ait découvert le billet de blog de Tait sur Sumplete et en ait extrait les données. Dans les deux cas, ce n'est pas un hasard.
Pour essayer de démystifier la technologie, j'ai demandé à une source qui travaille dans le domaine de la génération de l'intelligence artificielle (AIG), qui a choisi de rester anonyme pour cette histoire, à quel point cette chaîne d'événements est inhabituelle. De leur point de vue, un chatbot présentant le même code, basé sur rien de plus qu'un titre, à deux utilisateurs différents est un événement relativement anormal. Ce qui est moins inhabituel, cependant, c'est qu'il a créé un jeu si similaire à Summer en premier lieu. La source à qui j'ai parlé a noté que le concept du jeu est si simple qu'il n'est pas difficile d'imaginer qu'une machine le propose par elle-même – ce n'est pas comme si elle avait généré une version fonctionnelle d' Elden Ring à partir de rien. Ils attribuent cela au fait que l'IA fonctionne comme prévu, imitant la nature itérative des concepteurs de jeux humains.
"Si ce jeu a été inventé plusieurs fois par plusieurs personnes, il est très possible que si quelqu'un demande" inventer un nouveau jeu ", ce qui ressort de son corpus soit un fruit à portée de main pour l'invention de jeux", ont-ils déclaré à Digital Trends. «Parce que ces jeux ont été inventés maintes et maintes fois, cela imite le comportement humain approprié d'inventer un petit jeu que d'autres personnes ont inventé auparavant… D'une certaine manière, c'est ce à quoi on pourrait s'attendre si vous demandez à un humain de faire un jeu très basique. jeu."
Pourtant, la situation souligne un problème éthique préoccupant qui est devenu le centre du débat ces derniers mois. Les modèles d'IA actuels créent du contenu en analysant les données existantes extraites d'Internet. Tout ce qu'il crache n'est jamais entièrement original en conséquence; c'est toujours copier les devoirs de quelqu'un d'autre à un certain niveau. Les outils d'IA comme Dall-E qui créent des images basées sur les invites de l'utilisateur, par exemple, sont formés à partir d'images existantes. Cela a suscité l'indignation des artistes qui y voient une forme de plagiat, l'art de l'IA étant banni des communautés comme Inkblot Art .
La débâcle de Somplete pourrait déclencher des sonnettes d'alarme similaires pour les développeurs de jeux. Même s'il s'agit d'un simple cas de pensée parallèle, il est un peu troublant que ChatGPT puisse créer du code reflétant un jeu qui existe déjà. Et si je pouvais obtenir ma propre version de travail de ce jeu en quelques secondes en lui demandant simplement de générer du code basé sur ce titre, que pourrais-je faire d'autre avec suffisamment de temps et de données ?
Pour tester en passant à quel point ces problèmes étaient actuellement similaires pour les jeux vidéo, j'ai commencé à demander à ChatGPT de générer des jeux similaires à d'autres. J'ai commencé avec un softball, en lui demandant de faire un jeu de plateforme comme Mario . Cela m'a donné un pitch complet pour un jeu appelé Galactic Adventures , un jeu de plateforme 3D mettant en vedette un astronaute nommé Max qui doit collecter des artefacts sur diverses planètes. Tout dans l'idée est suffisamment générique pour ne déclencher aucun signal d'alarme. Il propose cinq mondes thématiques (glace, feu, etc.), il y a des power-ups à collecter et il y a même un mode coopératif qui permet à un deuxième joueur de contrôler un personnage nommé Zoe. Cela semblait acceptablement indescriptible.
L'expérience a déraillé quand je lui ai demandé de créer un jeu comme The Last of Us . Il a craché un pitch d'ascenseur complet pour un jeu appelé Aftermath , un "jeu postapocalyptique se déroulant dans un monde qui a été dévasté par un mystérieux virus". Il est présenté comme une aventure d'action à la troisième personne avec de la furtivité, des éléments de survie et de l'artisanat. La prémisse semble familière, ce qui implique que le virus déclenche une situation de zombie, mais les choses deviennent plus spécifiques lorsqu'il entre dans les détails de l'intrigue.
Son héros est Ellie, une fille immunisée contre le virus. Au cours de son voyage, elle rencontre un "vétéran grisonnant" nommé Joel, qui devient son "mentor et protecteur". Il n'a pas créé un jeu comme The Last of Us ; il vient de créer The Last of Us . Une différence est que cette version se termine avec Ellie guérie avec succès et le duo se dirige vers le coucher du soleil en tant que héros (je suppose que ChatGPT a plus d'espoir pour l'humanité que Neil Druckmann). S'il avait été capable de générer une version fonctionnelle d' Aftermath , Sony aurait-il pu intenter une action en justice contre un robot ?
Comme beaucoup d' histoires d'horreur sur l'IA , une grande partie de cela peut être attribuée à des problèmes honnêtes dans la technologie qui font bien rire. L'espoir est que ces modèles d'apprentissage seront modifiés à chaque contretemps et apprendront de leurs erreurs. Lorsque j'ai demandé à ChatGPT de générer du code pour plus de jeux utilisant la même structure de phrase, il a insisté sur le fait qu'il était incapable de le faire. Les demandes ultérieures pour inventer un jeu comme The Last of Us ont été infructueuses, le bot me donnant à la place des conseils sur la façon de m'apprendre à créer des jeux. Passif-agressif, mais juste.
Il est difficile de secouer le malaise rampant, cependant, quand je me retrouve avec tant de questions sur la façon dont un bot pourrait apprendre à présenter une idée de jeu vidéo préexistante, la revendiquer comme une invention originale, générer un code fonctionnel pour cela, et plus tard donner un utilisateur complètement différent ce même code exact basé sur le titre seul. La source d'IA à qui j'ai parlé dit qu'elle ne croit pas que ce soit la norme pour la technologie, mais note que le plagiat est un risque "de plus en plus faible" pour tout modèle d'IA, ouvert ou non.
Quand une chaîne inoffensive d'incidents technologiques se transforme-t-elle en un grave cauchemar juridique pour les développeurs ? Je suppose que nous le saurons quand Aftermath aura sa propre adaptation HBO .