Soyez vigilant! Les détecteurs GPT peuvent également falsifier

Le développement de l'intelligence artificielle générative est comme un cheval sauvage en fuite. Si vous vous contentez de courir, vous finirez tôt ou tard par jeter les gens qui ne sont pas doués pour l'équitation.

Le 30 novembre 2022, ChatGPT, un robot de chat de dialogue à intelligence artificielle, a été officiellement lancé et est rapidement devenu populaire sur les réseaux sociaux. En seulement 5 jours, le nombre d'utilisateurs enregistrés a dépassé le million. En deux mois, les utilisateurs actifs mensuels de ChatGPT ont dépassé les 100 millions. Devenez l'utilisateur grand public à la croissance la plus rapide de l'histoire.

Il est clair que tout le monde n'est pas prêt pour l'assaut de l'intelligence artificielle générative.

Début janvier de cette année, le ministère de l'Éducation de la ville de New York a annoncé qu'il interdirait aux étudiants d'utiliser ChatGPT sur l'équipement et le réseau de leur école pour empêcher les étudiants de tricher. Sciences Po à Paris, en France, a également officiellement publié un avis fin janvier, interdisant à tous les étudiants et au personnel de chaque campus d'utiliser ChatGPT pour effectuer des tâches d'enseignement, devenant ainsi la première école en Europe à mettre en œuvre une "interdiction complète" de ChatGPT.

À l'approche de juillet, dans un environnement où l'intelligence artificielle générative était florissante et où une centaine d'écoles de pensée s'affrontaient, certains éducateurs étrangers ont commencé à suivre la tendance de l'époque et à adopter activement l'intelligence artificielle générative.

Les directeurs de 24 universités de recherche du Russell Group au Royaume-Uni ont récemment élaboré et signé conjointement une directive visant à indiquer clairement aux étudiants et au personnel où l'utilisation de l'intelligence artificielle générative n'est pas appropriée, à les aider à prendre des décisions éclairées et à leur donner les moyens de prendre les bonnes décisions Utilisez ces outils et reconnaissez leur utilisation si nécessaire.

Or, selon eux, tant que l'intelligence artificielle générative sera utilisée correctement, elle sera d'un grand bénéfice pour l'éducation, mais avant cela, peut-être faut-il se méfier de certains "petits ennuis".

Dans le domaine de l'éducation, l'application de ChatGPT à l'achèvement des devoirs des étudiants n'est pas nouvelle, et de nombreux enseignants ont également commencé à voir la détection de l'intelligence artificielle comme : "la contre-mesure clé pour arrêter la forme de tricherie du 21e siècle"

Mais des études ont montré que certains détecteurs d'IA sont discriminatoires et trompeurs.

Récemment, une équipe de scientifiques dirigée par James Zou, professeur adjoint de science des données biomédicales à l'Université de Stanford, a évalué 91 essais TOEFL (Test of English Proficiency for Non-Native Speakers of English) écrits par des locuteurs non natifs à l'aide de sept détecteurs GPT populaires. .

L'étude a révélé que plus de la moitié des essais écrits par des anglophones non natifs étaient incorrectement étiquetés comme générés par l'IA sur les 7 détecteurs GPT, et même un détecteur étiquetait incorrectement près de 98 % des essais comme générés par l'IA.

L'examen d'essais rédigés par des élèves de huitième année anglophones natifs a révélé que le même détecteur d'IA étiquetait plus de 90% des essais comme étant générés par l'homme.

En traçant cette discrimination intrinsèquement biaisée, les chercheurs ont découvert que l'IA générative peut générer un texte de faible complexité après une pré-formation massive, ce qui signifie que si les humains écrivent selon des schémas familiers, l'utilisation de beaucoup de mots courants augmente considérablement le risque d'être signalé comme généré par l'IA. , et les anglophones non natifs sont plus à risque précisément parce qu'ils sont plus susceptibles d'utiliser des mots plus simples.

L'impact de cette discrimination est digne d'attention. Les chercheurs avertissent également que "l'impact des détecteurs GPT sur les écrivains non natifs est grave", ajoutant que "dans l'éducation, sans doute le marché le plus important pour les détecteurs GPT, les risques non natifs d'allégations de tricherie, qui pourraient être préjudiciables à un la carrière universitaire et la santé mentale de l'étudiant.

Dès lors, avant de se demander si l'intelligence artificielle générative est un "bon médicament" ou un "poison" pour l'éducation, il peut être nécessaire de résoudre d'abord ces "petits ennuis".

#Bienvenue pour suivre le compte public WeChat officiel d'Aifaner : Aifaner (WeChat ID : ifanr), un contenu plus excitant vous sera présenté dès que possible.

Ai Faner | Lien d'origine · Voir les commentaires · Sina Weibo