Le « témoignage d’une personne décédée » généré par l’IA remet en question les limites éthiques du tribunal
À l'homme qui m'a tiré dessus, je veux dire : je suis désolé que nous nous soyons rencontrés ce jour-là dans de mauvaises circonstances. Peut-être que nous pourrons être amis dans la prochaine vie… Je crois au pardon et que Dieu pardonnera, et je le fais toujours.
Chris Pelkey, l'une des victimes de la fusillade, a déclaré au tribunal.
Mais ce n’était pas lui. Il est décédé tragiquement lors d'une fusillade au volant en 2021.
La vidéo IA diffusée lors du procès a été réalisée avec l'image et la voix de Pelkey.
Ce qui est encore plus surprenant, c’est ce qui va suivre : le juge a accepté cette déclaration d’impact sur la victime générée par l’IA comme témoignage lors de la phase de détermination de la peine.
Il s’agit d’un procès qui a eu lieu le 1er mai de cette année dans un tribunal supérieur de comté de l’Arizona, et qui a provoqué un choc sans précédent au sein du tribunal pénal et même dans l’ensemble du monde juridique anglo-américain.
Cela crée également un précédent dans lequel le contenu généré par l’IA peut être soumis au tribunal comme témoignage et accepté par le tribunal.
Le procès a provoqué un tollé sur des plateformes telles que YouTube et Reddit, de nombreux internautes exprimant leur incompréhension face à la décision du juge d'accepter le témoignage de l'IA.
Certains pensent que le juge de service, Todd Lang, est « stupide » et devrait être démis de ses fonctions par les autorités supérieures.
Un internaute qui prétendait être avocat s'est dit choqué : « Si j'engageais quelqu'un pour faire quelque chose de similaire au procès, non seulement je serais arrêté au tribunal, mais je ferais même l'objet d'une enquête du Barreau. »
À première vue, il semble absurde et stupide qu’un tribunal accepte un témoignage généré par l’IA au nom d’une victime décédée. L’attitude d’opposition de ces internautes est tout à fait justifiée.
Mais étant donné que cette vidéo de témoignage a été produite par la famille de la victime et n'a pas été contestée par le défendeur et le tribunal, la situation est en effet un peu étrange, et il semble qu'il se passe autre chose.
Examinons de plus près cet incroyable procès.
Derrière le témoignage de l'IA morte : l'amour et le pardon
Lorsque Stacey Wales a eu l’idée de créer des vidéos d’IA comme témoignage, elle savait que cela serait controversé.
Même son mari a eu du mal à l’accepter au début et a pensé qu’elle « était peut-être allée un peu trop loin ».
Wales est la sœur de Chris Pelkey, la victime dans cette affaire et la personne décédée lors de la fusillade au volant. Elle et son mari travaillent tous deux dans le secteur technologique et ne sont pas étrangers aux outils de génération d’IA.
Le défendeur devrait être puni par la loi, et les victimes espèrent également que le tribunal pourra imposer la peine maximale pour réconforter l'âme de Pelkey au paradis. Le Pays de Galles souhaite que le tireur Gabriel Horcasitas passe le reste de sa vie en prison, ou au moins soit condamné à la peine maximale pour homicide involontaire.
Mais elle croit aussi que l’esprit de son frère au paradis pourrait ne pas le penser.
Après deux ans de réflexion et de discussions avec des dizaines d'amis de son frère, Wales a appris à connaître à nouveau son frère et était sûr d'une chose :
Elle-même ne pourra peut-être pas pardonner à l'accusé, mais son frère lui pardonnera certainement.
Rien ne peut ramener Pelkey à la vie. Mais au moins, AI pouvait donner à son frère une dernière chance de s'exprimer – Wales le pensait et a finalement convaincu son mari.
Elle a compris que si elle décidait de faire cela, elle devait être très prudente et prudente. Si le scénario de la vidéo n’était pas bon, l’effet serait loin d’être satisfaisant.
Elle l'a fait immédiatement : elle a trié une grande quantité de descriptions secondaires à partir de dossiers d'entretiens au fil des ans, a distillé ce qu'elle pensait être le plus proche de l'image de son frère et ce qu'il pourrait éventuellement dire au tribunal, et a écrit le scénario.
Ils ont utilisé la photo portrait de Pelkey et la diffusion stable et le réglage fin LORA pour générer la vidéo. Au cours du processus, certains effets ont été déformés. Par exemple, Wales espérait que son frère pourrait « sourire » aux personnes qu'il aimait et qui l'aimaient pour la dernière fois dans la vidéo, mais la longue barbe qui couvrait son cou sur la photo était difficile à gérer. Ils ont dû « tailler » sa barbe et retirer les lunettes de soleil collées sur son chapeau pour rendre l'apparence et le sourire de Pelkey plus réalistes dans la vidéo générée.
La vidéo qui en résulte n’est pas entièrement complète ou cohérente, avec des interruptions et des coupures évidentes au milieu. Mais cela n'a pas d'importance. Wales a recréé la voix, l'apparence et le sourire de son frère dans la vidéo, et le résultat l'a satisfaite.
« Bonjour à tous. Tout d'abord, permettez-moi de préciser que je suis Chris Pelkey, un être créé par l'IA à partir de photos et de données sonores. Aujourd'hui, je vous rencontre sous la forme d'une reproduction numérique et j'espère partager avec vous le genre de personne que je suis dans la vraie vie », déclare le jumeau numérique de Pelkey au début de la vidéo.
À partir de cette vidéo générée par l'IA, les gens peuvent voir un Pelkey plus complet : il a servi dans l'armée américaine et était stationné dans une zone de guerre avec des conditions difficiles ; il est passionné de pêche, a une barbe mais n'est pas négligé et répond à presque tous les stéréotypes d'un vétéran robuste.
Il aime Dieu, aime la vie et aime les gens qui l’entourent, et considère la foi et l’amour comme le seul credo de sa vie.
À Gabriel Horcasitas, l'homme qui m'a tiré dessus : je regrette que nous nous soyons rencontrés ce jour-là dans de mauvaises circonstances. Peut-être que dans l'au-delà, nous pourrons être amis… Je crois au pardon, au pardon de Dieu, j'y ai toujours cru et j'y crois toujours.
Dans la vidéo, le jumeau numérique de Pelkey a fait quelques blagues, comme dans la vraie vie : « Vieillir est un luxe dont tout le monde ne peut pas profiter. Je n'en ai pas l'occasion, mais cette photo filtrée vous permettra de voir à quoi je ressemblerai quand je serai vieux et faible. Ça vous fait peur ? »
Centre de controverse : le témoignage de l’IA doit-il être admissible devant un tribunal et quand doit-il l’être ?
L’idée de respecter la volonté autonome des autres est plus populaire dans la société occidentale. Mais la controverse des internautes sur cet incident ne porte pas sur le fait que la famille du défunt a réalisé la vidéo, mais sur le fait que la vidéo a été soumise au tribunal.
De plus, l'avocat du défendeur et le juge n'ont soulevé aucune objection sur les lieux.
Ce qui est encore plus scandaleux, c’est que pour une raison quelconque, le juge a décidé d’accepter cette vidéo comme témoignage.
On croit généralement que les déclarations faites par une personne qui n’était pas présente et qui n’était pas guidée par sa propre volonté, que ce soit dans un texte ou une vidéo, ne peuvent et ne doivent pas être utilisées comme témoignage.
Il n’y a jamais eu de précédent d’admission d’un témoignage généré par l’IA ; dans d'autres cas, des contenus similaires générés par l'IA ont été soumis au tribunal, mais non seulement ils n'ont pas été admis comme preuve, mais les auteurs ont été sévèrement punis : soit ils ont été accusés d'outrage au tribunal, soit condamnés à payer une amende.
Ce cas d’homicide involontaire est-il particulier ?
Vous savez quoi, c'est vraiment un peu différent.
Contrairement au système juridique continental qui intègre la condamnation et la détermination de la peine, le droit anglo-américain adopte le principe de séparation procédurale de la condamnation et de la détermination de la peine. La phase de condamnation de l'affaire est terminée, l'accusé ne peut plus échapper à la culpabilité et le procès est entré dans la phase de détermination de la peine – c'est au cours de cette phase que Wales, l'une des victimes, a soumis la vidéo au tribunal.
Pour être plus précis, ce témoignage vidéo généré par l’IA ne constitue pas une « preuve » au sens pénal car il a été soumis au tribunal lors de la phase de détermination de la peine.
Au cours de la phase de détermination de la peine, l'accusation peut demander à des témoins (tels que Wales, un parent du défunt) de soumettre un témoignage pour aider le tribunal à mieux comprendre le préjudice causé par l'affaire et ainsi atteindre le niveau de peine attendu par l'accusation. L’inverse est également vrai : la défense peut également faire appel à des témoins pour présenter des témoignages de moralité qui brossent un tableau plus favorable de l’accusé et réduisent ainsi la peine, même si ces témoins n’ont aucun lien avec l’affaire elle-même.
En bref, le témoignage lors de la phase de détermination de la peine vise à influencer le jugement du juge sur la sévérité de la peine à imposer au coupable, ce qui est permis par le tribunal.
Cependant, dans ce cas, la plupart des témoins ont peut-être négligé un ensemble de détails : les dossiers du procès montrent que l’accusation a plaidé pour une peine de 9 ans ; Wales a demandé au juge d'imposer la peine maximale de 10 ans et 6 mois dans son propre témoignage ; mais d'après la vidéo d'IA produite par Wales, le jumeau numérique de Pelkey semblait avoir pardonné au défendeur.
C’est peut-être pour cela que le juge Todd Lang a déclaré qu’il aimait l’IA et y avait perçu un soupçon de pardon.
Après avoir visionné la vidéo, il a déclaré à Wales : « Votre témoignage m'a montré que vous étiez en colère et que vous plaidiez pour la peine maximale. Pourtant, même si c'était ce que vous souhaitiez, vous avez laissé Chris s'exprimer – votre version des faits. Je ne l'ai pas entendu demander la peine maximale. »
Finalement, le juge a imposé la peine maximale de 10 ans et 6 mois. Le défendeur a également fait appel de la condamnation.
Maura Grossman, professeure à l'Université de Waterloo et chercheuse juridique en IA, a souligné que, compte tenu du fait que cette affaire était un procès devant un tribunal plutôt qu'un procès devant jury, et que la vidéo d'IA soumise n'était pas une « preuve » au sens pénal, l'influence de la vidéo sur l'affaire était relativement limitée et n'a pas joué un rôle décisif.
Gary Marchant, professeur de droit à l'Université d'État de l'Arizona, estime que, comparé aux actes malveillants consistant à utiliser l'IA pour fabriquer des cas ou des lois inexistants, ce type de témoignage généré par l'IA qui fait de son mieux pour présenter la voix de la victime de manière véridique ne contient aucune intention malveillante et n'a donc pas besoin d'être contesté.
Néanmoins, l’utilisation d’un témoignage généré par l’IA dans cette affaire, et en particulier les circonstances inattendues dans lesquelles il a été admis, ont créé un précédent sensationnel et controversé.
Le tribunal est un lieu sérieux et très sensible aux fausses informations. Le droit anglo-américain est un système juridique qui suit la plupart du temps le système jurisprudentiel. La question de savoir si, quand et dans quelles circonstances les informations générées par l’IA peuvent être admises comme témoignage valable devant un tribunal semble être une question juridique et éthique extrêmement complexe et difficile. Les observateurs ont estimé que la décision du juge était trop hâtive.
Mais au moins l’objectif du Pays de Galles a été atteint.
« Nous espérons impressionner le juge. Notre objectif est de montrer le vrai Chris, l'être humain qu'il était », a-t-elle déclaré.
#Bienvenue pour suivre le compte public officiel WeChat d'iFanr : iFanr (ID WeChat : ifanr), où du contenu plus passionnant vous sera présenté dès que possible.