Pourquoi écrire avec ChatGPT me rend la vie plus difficile
Je me souviens de la première apparition de ChatGPT , et la première chose que tout le monde a commencé à dire était « Les écrivains sont finis ». Les gens ont commencé à spéculer sur le fait que les sites d’information, les blogs et presque tout le contenu écrit sur Internet seraient générés par l’IA – et même si ces prédictions me semblaient extrêmes, j’ai également été assez impressionné par le texte que GPT pouvait produire.
Naturellement, j'ai dû essayer ce nouvel outil sophistiqué par moi-même, mais j'ai rapidement découvert que les résultats n'étaient pas aussi impressionnants qu'ils le paraissaient. Avance rapide de plus de deux ans, et en ce qui concerne mon expérience et mes cas d'utilisation, rien n'a changé : chaque fois que j'utilise ChatGPT pour m'aider dans mon écriture, cela ne fait que me ralentir et me laisser frustré.
Pourquoi ChatGPT ne fonctionne tout simplement pas pour moi
ChatGPT peut générer de très bonnes choses. Cela peut produire un langage naturel, cohérent, voire plein d’esprit et intéressant. Mais la plupart des meilleurs exemples que vous avez tendance à voir proviennent d’invites extrêmement simples – du genre d’invites « écrivez un poème sur le shopping chez Walmart mais dans le style de William Shakespeare » que tout le monde faisait en 2023.
Je suis désolé, je ne peux tout simplement pas être cynique à l'égard d'une technologie qui peut accomplir cela. pic.twitter.com/yjlY72eZ0m
– Thomas H. Ptacek (@tqbf) 2 décembre 2022
Lorsque vous demandez quelque chose comme ça, une partie de ce qui rend le résultat génial est que c'est inattendu. Vous lui avez essentiellement demandé de vous surprendre et, dans la plupart des cas, il réussira.
Lorsque vous essayez d'utiliser ChatGPT pour un vieux travail d'écriture ennuyeux, c'est une toute autre histoire. Tout d’abord, pour des pièces comme celle-ci, ça ne sert à rien. Tout ce que j'écris maintenant concerne mes propres expériences et opinions – l'IA ne peut pas les écrire à ma place. Certaines personnes pourraient affirmer que cela pourrait vous aider à planifier, à réfléchir ou à affiner vos arguments – mais de toute façon, je n'ai jamais voulu d'aide pour ce genre de choses.
Le genre de travail pour lequel j'ai essayé d'utiliser ChatGPT était celui des blogs d'entreprise. Vous connaissez le type : des explications, des procédures et des articles de recommandation couvrant des sujets liés à l'entreprise et à ses produits (avec également une subtile auto-promotion). Lorsque vous écrivez ce genre de choses, de nombreuses exigences vous sont souvent imposées : un guide de style pour la langue et la grammaire, des mots-clés à insérer, des sources à inclure, des sources à éviter et un aperçu du contenu avec les titres, la structure et les points clés tous prédéterminés.
Si je voulais obtenir une copie utilisable, je ne pouvais pas simplement envoyer à GPT une invite d'une ligne et la laisser fonctionner. J'ai donc essayé une structure qui ressemblait à ceci :
- Une invite « contextuelle » préliminaire expliquant ce que j'écrivais et quel genre de choses j'allais demander, ainsi qu'un exemple de paragraphe pour lui montrer le style de langage que je souhaitais.
- Invites ultérieures avec des « aperçus de contenu » qui fournissaient un titre ou deux ainsi que des puces sur ce qu'il fallait couvrir.
Je n'en demanderais jamais trop à la fois et comme je ne lui faisais pas confiance pour ajouter des statistiques et des sources, je laisserais tout cela de côté avec l'intention de le faire moi-même par la suite.
Mais même si j'essayais de diviser le travail en petits morceaux et de donner des instructions très claires, je me heurtais toujours aux mêmes problèmes :
- ChatGPT est mauvais pour écouter les instructions.
- Il a la mauvaise habitude d’aller trop loin.
- Des informations incorrectes ou non pertinentes se faufilent assez souvent dans la copie.
- Son « style d’écriture » devient très vite répétitif et cliché.
- Lorsque l’un des problèmes ci-dessus survient, il est presque impossible de faire en sorte que le LLM révise ou corrige sa sortie avec succès.
Laissez-moi vous montrer ce que je veux dire.
1. C'est terrible d'écouter les instructions
Lorsque vous essayez d'obtenir un résultat très spécifique de ChatGPT, vous devez donner des instructions spécifiques. Malheureusement, il semble que plus vous demandez de choses, plus GPT est susceptible d'en ignorer certaines. Mes invites auraient des titres, des puces de contenu, un nombre de mots, des instructions de formatage, et le chatbot devait également se souvenir des instructions de style dès le début de la session. J'ai essayé de nombreuses approches différentes pour simplifier les choses, mais j'ai toujours eu l'impression que ChatGPT ne pouvait tout simplement pas gérer autant d'instructions.
Deux choses spécifiques avec lesquelles j'aurais fréquemment des problèmes étaient le nombre de mots et les puces. Le LLM m'a rarement donné le nombre de mots que j'avais demandé (me donnant généralement quelque chose de bien en dessous plutôt que de bien au-dessus), et il ne m'a jamais écouté lorsque je disais que je voulais ou ne voulais pas de puces.
Parfois, cela peut être résolu : disons que je voulais 200 mots avec des puces, mais que j'ai obtenu 300 mots sans puces. Il est assez rapide de couper quelques mots et d'y insérer quelques puces. Malheureusement, j'avais toujours l'impression que j'avais les erreurs les plus difficiles à corriger.
Lorsque vous demandez 500 mots sans puces et obtenez 200 mots avec puces, vous devez essentiellement faire la majeure partie du travail vous-même.
2. Il a la mauvaise habitude d’aller trop loin
Lorsque vous dites à ChatGPT que vous voulez quelque chose de spécifique, comme un langage convivial ou un point de vue à la deuxième personne, il a tendance à s'accrocher à ces concepts et à en devenir fou.
Un langage convivial se transforme en un langage de discussion textuel complet avec des emoji, et la perspective à la deuxième personne se transforme en quelque sorte en questions et références excessives au lecteur afin qu'il puisse utiliser le pronom « vous » aussi souvent que possible.
Vous êtes également un peu coincé si vous voulez beaucoup de choses comme des exemples ou des citations. Si vous dites simplement à GPT que vous voulez « beaucoup », « beaucoup » ou « beaucoup » de quelque chose, cela vous donnera probablement le double ou le triple du montant souhaité. Si vous lui donnez un numéro spécifique, il risque de l'ignorer complètement et de vous donner quelque chose de aléatoire. En d’autres termes, vous pouvez à peine contrôler la sortie.
3. Des informations incorrectes ou non pertinentes se faufilent assez souvent dans la copie
Nous savons tous que l’IA « hallucine » et se trompe à des moments aléatoires – cela arrive assez souvent pour que vous deviez vérifier chaque chose qu’elle dit, ce qui prend beaucoup de temps et affecte le temps que vous pouvez gagner en l’utilisant.
Pour lutter contre cela, je n’ai pratiquement jamais demandé de faits ou de chiffres. J'ai essayé plusieurs fois dès le début, mais le processus de vérification des faits est vraiment une corvée, et j'ai rapidement arrêté de m'en soucier.
Le problème est que GPT jettera des inexactitudes aléatoires dans ses réponses, que vous demandiez ou non des faits et des chiffres. Cela signifie que vous ne pouvez pas simplement vérifier la qualité de lecture de la copie ou si vous êtes satisfait des arguments qu'elle essaie de faire valoir – vous devez vérifier et considérer la validité de tout ce qu'elle dit. C'est tellement pénible.
Et puisque je parle ici d’erreurs et d’hallucinations, autant évoquer aussi le « pire des cas ». Parfois, le LLM déraille , et même si cela n'arrive pas tout le temps, lorsque cela se produit, vous devez jeter cette session à la poubelle et passer du temps à coller vos invites dans une nouvelle discussion et à tout recommencer. Personnellement, je n'ai jamais vraiment vu ChatGPT devenir fou d'une manière particulièrement amusante, mais mon ami a eu ce joyau une fois :

4. Son « style d’écriture » devient très vite répétitif et cliché
Au début, il semble insensé à quel point ChatGPT peut paraître « humain ». Mais à mesure que vous l’utilisez de plus en plus, vous réalisez que cela ne semble pas seulement humain, cela ressemble à « l’humain moyen ».
Les ensembles de données d'OpenAI incluent la majeure partie d'Internet : des millions d'articles Internet, des fils de discussion Reddit et des blogs personnels. Et je suis désolé de le dire, une grande partie de ce contenu est de la pure foutaise. Mais comme ChatGPT y est formé, il reprend toutes les mauvaises habitudes les plus courantes.
Ainsi, lorsque vous générez beaucoup de texte avec ChatGPT, vous commencerez à remarquer que certaines structures de phrases et expressions sont souvent répétées. Les deux pires coupables pour moi étaient ces deux structures de phrases :
- "De A et B à C et D, bla bla bla." (Exemple : dans le monde de TikTok, il y a une place pour tout le monde, des bricoleurs aux gourous de la beauté en passant par les amoureux des animaux et les éducateurs. )
- "Que vous soyez A ou B, bla bla bla." (Exemple : Que vous débutiez tout juste ou cherchiez à améliorer votre chaîne, l'utilisation de stratégies intelligentes pour susciter un engagement authentique est la clé pour vous démarquer. )
ChatGPT aime tellement ces deux structures de phrases que j'étais quasiment assuré d'en obtenir trois ou quatre à chaque session. Ces deux exemples provenaient même du même paragraphe d’une de ses réponses. Et cette phrase « Dans le monde de… » dans le premier exemple est une autre façon dont il aime vraiment commencer une phrase. Tout cela est ennuyeux, cliché et ridiculement galvaudé (ce qui est, bien sûr, la raison même pour laquelle ChatGPT finit par en générer autant). J'ai même essayé d'interdire expressément certaines expressions et types de phrases, en commençant chaque invite par cette petite liste :

Les gens disent qu’il est presque impossible de distinguer le texte généré par l’IA du texte écrit par l’homme – mais je ne suis pas du tout d’accord. Si vous avez essayé d'utiliser ces outils d'IA vous-même et que vous avez rencontré tous les problèmes et mauvaises habitudes, vous découvrez de nombreux signes révélateurs. Lorsque les gens mélangent du contenu d'IA avec des éléments écrits par des humains et modifient fortement la majorité des résultats de ChatGPT, vous pouvez les masquer complètement. Mais le contenu qui vient directement du modèle de langage et publié pratiquement tel quel – vous pouvez le constater. Vous pouvez le savoir assez facilement.
5. Il est presque impossible d'amener le LLM à réviser ou à corriger ses résultats avec succès
Le véritable problème dans tout cela, c'est lorsqu'un problème survient, ChatGPT peut rarement le résoudre seul. Chaque fois que les choses allaient mal, j'essayais une ou deux fois d'expliquer le problème et de demander des révisions, mais cela ne fonctionnait tout simplement pas.
Si je demandais le bon nombre de mots, la plupart du temps, j'obtiendrais à nouveau le même nombre de mots. Si je lui demandais de supprimer les puces, il répondrait « Bien sûr ! » puis donnez-moi plus de puces. Si je lui demandais d'ajuster le ton ou le style, il aurait du mal à appliquer le changement à tous les niveaux, et je me retrouverais avec un mélange étrange des deux.
Peut-être que si vous continuiez à réinviter et à régénérer les réponses de ChatGPT, vous finiriez par vous rapprocher de ce que vous vouliez. Le problème pour moi est que je suis un écrivain – et utiliser ChatGPT m'oblige à remplir le rôle d'éditeur à la place.
Ce n'est probablement pas un problème pour tout le monde – de nombreux écrivains font également un peu de montage dans le cadre de leur travail, mais cela me dérange vraiment. Je déteste éditer le travail des autres et je déteste éditer la sortie de GPT.
Quant à la fréquence à laquelle les choses se sont mal passées : lorsque chaque session dure plusieurs heures avec plus de 30 invites, vous rencontrez presque toujours un problème quelque part.
Le résultat : j'ai abandonné
J'ai essayé pendant quelques mois d'apprendre à utiliser ChatGPT en 2023 et j'y suis revenu après des mises à jour majeures au cours des deux années suivantes – mais mon expérience n'a jamais changé. J'ai également essayé d'autres LLM, mais même les modèles de « raisonnement » les plus récents qui laissent échapper un monologue intérieur avant de répondre ont toujours les mêmes problèmes d'utilisation.
Les modèles LLM actuels n'accélèrent tout simplement pas le processus d'écriture pour moi – tout ce qu'ils font, c'est me forcer à passer du temps à faire ce que je déteste au lieu de simplement consacrer du temps à ce que j'aime. Si vous détestez écrire et ne voulez jamais le faire, ChatGPT peut certainement vous aider. Mais si l'écriture est un passe-temps pour vous ou ce que vous avez choisi de faire dans votre vie, cette chose vous rendra probablement fou.
En fin de compte, je n’ai jamais publié quoi que ce soit que l’on puisse qualifier de « généré par l’IA ». Chaque fois que j'essayais, comme on dit, de «l'intégrer dans mon flux de travail», je finissais par me cogner la tête contre le mur, perdre beaucoup de temps, puis fermer l'entreprise lorsque je réalisais que je n'avais rien accompli et que mon échéance approchait à grands pas.