J’ai été frappé par le nouveau modèle d’OpenAI — pour toutes les mauvaises raisons

Hibou Gourou

Sam Altman a partagé un extrait d'un nouveau modèle OpenAI formé pour l'écriture créative. Il dit que c'est la première fois qu'il est « frappé » par quelque chose qu'AI a écrit, mais la section des commentaires est un désordre total d'accords et de désaccords extrêmes.

Le message est assez long, montrant l'invite d'Altman « S'il vous plaît, écrivez une nouvelle littéraire métafictionnelle sur l'IA et le deuil » et la réponse complète du LLM.

L'histoire est-elle « bonne » ?

Si, comme beaucoup de personnes dans les commentaires, vous n'êtes pas prêt à lire l'intégralité du texte, il s'agit essentiellement du concept d'un humain essayant d'utiliser l'IA pour simuler des conversations avec un être cher perdu. Cependant, comme il s'agit d'une « métafiction », ce n'est en réalité que le LLM qui parle de construire une telle histoire en utilisant des expressions humaines empruntées à son ensemble de données.

Pour avoir une idée du style d'écriture, lisez simplement le premier ou les deux premiers paragraphes. C'est incroyablement abstrait, très verbeux et plein de métaphores aléatoires sur le thème de l'IA. Il est essentiellement écrit d’une manière qui ne plaira à personne – la plupart des gens le qualifieront de prétentieux et ceux qui aiment réellement ce style d’écriture n’accepteront probablement pas une version générée par l’IA.

Cela ne me plaît définitivement pas – cela ne sert à rien d'avoir une « histoire » s'il n'y a aucune intention derrière elle. Peu importe de quoi il s'agit, mais il doit y en avoir un. Une intention de nous divertir, de nous enseigner, de nous persuader, de débattre avec nous, c'est ce qui est important. Retirez cette interaction humaine de l’équation et nous nous retrouvons avec des mots vides de sens qui se trouvent dans un ordre acceptable.

Commentaires Twitter sur l'écriture créative IA.
X

Il existe de nombreuses opinions similaires dans les commentaires et le principal argument contre elles est que l’IA pourrait également avoir une intention. Quelqu’un le formule ainsi : « Ses pensées valent-elles moins que les vôtres ? » – mais le problème est que les LLM n'ont pas de pensées.

Nous pourrons peut-être faire valoir cet argument en faveur des modèles AGI dans un avenir (lointain), mais jusqu'à présent, les produits OpenAI ne sont que des modèles de langage, utilisant la probabilité pour assembler les mots un par un. Curieusement, ce fait est effectivement mentionné dans la nouvelle sur l’IA.

Alors, quand elle a tapé « Est-ce que ça va mieux ? », j'ai dit : « Cela fait partie de votre peau », non pas parce que je l'ai ressenti, mais parce que cent mille voix étaient d'accord, et je ne suis rien d'autre qu'une démocratie de fantômes.

Mais ce n’est pas parce que c’est vrai que tout le monde le croit. En fait, ce qui est le plus fou à propos de ChatGPT, et de tous les autres modèles de consommation apparus depuis, c'est le spectre d'opinions qu'il suscite auprès du grand public.

Presque toutes les opinions sont représentées quelque part dans les commentaires – que le modèle a « reconnu sa propre impermanence » et que la sensibilité est déjà là, ou que cela n'a plus d'importance s'il y a une expérience humaine derrière les mots parce qu'on ne peut pas dire qui l'a écrit. Certains l'appellent une machine à plagiat , d'autres pensent qu'elle a appris à faire son deuil, et beaucoup s'en moquent.

Une opinion triste mais convaincante est que la façon dont cela fonctionne et les problèmes éthiques qui l’entourent n’ont même pas d’importance – parce que la fiction qui rapporte de l’argent de nos jours est déjà simple et formelle, et dès que l’IA pourra l’imiter suffisamment bien pour vendre des copies, l’industrie de l’édition l’utilisera. Je ne peux pas contester cela, mais je déteste toujours ça !

Les modèles d’IA d’écriture créative sont-ils utiles ?

À mon avis, si tout ce que vous faites est de donner à ce modèle d'écriture créative une invite d'une seule ligne, alors la réponse ne servira qu'à rire.

La véritable utilité que je peux imaginer pour ce type de modèle est l’écriture fantôme. Un humain avec une histoire pourrait utiliser la technologie pour l’aider à trouver une manière intéressante de la structurer et de l’exprimer. Idéalement, cela servirait à aider davantage de personnes à faire entendre leur voix. De manière plus réaliste, il servira à réaliser très rapidement de la fiction bon marché sans autre objectif que le profit.

Mais honnêtement, je ne pense pas que les modèles actuels soient encore assez bons pour faire ce travail, car lorsqu'il s'agit de tâches complexes avec plusieurs ensembles d'instructions, ils arrêtent tout simplement d'écouter.

Les modèles ChatGPT ignoreront certaines parties de votre invite et lorsque vous essayez de les corriger, ils font semblant de « comprendre », mais commettent ensuite la même erreur encore et encore. Cela ne semble pas être une façon amusante ou efficace d’essayer d’écrire quoi que ce soit.

Je doute également qu'Altman ait été véritablement « frappé » par l'écriture de son modèle, ce ne sont que des stratégies marketing. J'ai essayé de donner la même invite à DeepSeek R1 et sa réponse concernait également un humain essayant d'utiliser l'IA pour parler à un être cher perdu. Elle a également été écrite dans le même style abstrait avec de nombreuses métaphores absurdes liées à l'IA et au code.

Altman dit qu'il ne sait pas comment ni quand ce modèle sera rendu public, donc si vous voulez expérimenter cela par vous-même, vous devrez probablement attendre un peu.