Le monde entier a-t-il été trompé ? L’apparition du « double numérique » à la conférence Nvidia pendant 14 secondes a révélé un gros problème

Huang Renxun a trompé le monde entier, et personne ne l'a remarqué pendant plus de trois mois ! Les vêtements en cuir sont faux, la cuisine est fausse, même lui-même est faux !

Au cours des deux derniers jours, une nouvelle qui a choqué le cercle scientifique et technologique a été frénétiquement balayée sur l'écran. Le fait est que NVIDIA a récemment publié un documentaire sur les coulisses de la conférence GTC en avril , montrant comment les techniciens peuvent utiliser la plate-forme Omniverse pour produire divers effets spéciaux de simulation 3D sur site. Il s'agit notamment de la reproduction parfaite de la cuisine de Huang Renxun et de la synthèse de son propre « homme numérique ».

Quelle? Le patron Huang, qui est si réaliste devant lui, n'est-il pas une personne vivante ?

Ne vous emballez pas encore, ce n'est pas ce que vous pensez. En fait, selon le blog Nvidia , lors de la conférence de presse d'une heure et 48 minutes ce jour-là, les "personnes numériques" n'ont pris que 14 secondes (film original 01:02:41 – 01:02:55). En dehors de ces 14 secondes, Huang Renxun lui-même parlait.

21 vrai et faux Huang Renxun

Les 14 secondes que Nvidia a qualifiées de point culminant de la conférence de presse ressemblent à ceci :

Lors de l'introduction du premier CPU Grace de Nvidia, la vraie cuisine s'est instantanément transformée en une fausse cuisine et a commencé à "se désintégrer" comme un transformateur. Ensuite, la scène est entrée dans l'espace virtuel et "l'homme numérique" de Huang Renxun est apparu dans son costume en faux cuir.

Vous pouvez parfaitement comprendre ce paragraphe comme une démonstration de la plate-forme Omniverse. Selon la description officielle, ces 14 secondes combinent l'apprentissage en profondeur de Nvidia avec le travail de l'équipe de recherche d'images, de l'équipe d'ingénieurs et de l'équipe de concepteurs.

Afin de recréer cette cuisine, les techniciens ont pris des centaines de photos sous différents angles puis ont réalisé une modélisation 3D. On dit qu'il y a jusqu'à 6000-8000 articles ici. Ils ont également enterré discrètement trois œufs de Pâques dans la fausse cuisine : un moulin à café avec le logo Nvidia, une boîte d'huile d'olive avec la marque Tao et un méchant Lego avec l'apparence de Huang Renxun.

Quant au "faux" PDG lui-même, il doit d'abord donner à Huang Renxun (et sa veste en cuir) un scan 3D complet du corps, une modélisation basée sur des milliers de photos, puis utiliser l'IA pour entraîner les mouvements et les expressions du visage.

En outre, ils ont engagé des acteurs spéciaux pour apprendre et imiter le langage corporel des discours passés de Huang Renxun, puis effectuer 8 heures de capture de mouvement. Après de nombreux ajustements détaillés, l'équipe a créé 21 versions d'"humains numériques" pour que le patron les sélectionne enfin pour le tir.

vrai ou faux? Le gros problème derrière 14 secondes

Sur YouTube, l'introduction de ce documentaire en coulisses est : regarder un groupe d'artistes brouiller les frontières entre réalité et rendu en Keynote à la conférence Nvidia. Dans le corps du blog, Nvidia a déclaré que le moment où la cuisine s'était "désintégrée" avait surpris le public. Tout le monde a commencé à se demander dans quelle mesure toute la conférence de presse était vraie et quelle était la part attribuée à l'IA.

Pour être honnête, en regardant attentivement ces 14 secondes, l'effet de la "désintégration" de la cuisine est toujours incroyable, mais la version synthétique des mouvements du corps de Huang Renxun est relativement raide, et même sa bouche est un peu désalignée. Il n'est pas trop difficile de le distinguer comme un chef-d'œuvre de l'IA, et il n'est pas trop difficile de le distinguer de la version live.

Mais quand la nouvelle mal interprétée est sortie, je suis également tombé dans le doute pendant un certain temps, et j'ai commencé à sentir qu'en 1 heure et 48 minutes, chaque sourire du patron Huang lorsqu'il est apparu sur les lieux semblait avoir le même robot goûter comme Zuckerberg.

Eh bien, il semble qu'il est faux. Euh ? Est-il réel ?

Pourquoi sommes-nous confus par la question du vrai et du faux vieux jaune ? C'est peut-être parce que nous vivons dans un monde où "voir n'est pas nécessairement croire".

Prenons l'exemple de la technologie Deepfake. Elle était autrefois utilisée pour produire des vidéos pornographiques de célébrités féminines ou de fausses nouvelles sur des politiciens et des célébrités. De nos jours, l'application de cette technologie s'est généralisée, il suffit d'un portrait et vos collègues ou amies peuvent être victimes de photos de nu .

À une époque où tout peut être deepfake, la falsification arbitraire de la vidéo et de la voix n'est qu'un exercice de base6.

La jolie fille humaine à l'autre bout du téléphone peut en fait être l'IA manipulée par l'escroc aux gros pieds. En 2019, des escrocs ont utilisé un discours synthétisé par l'IA pour prétendre être le PDG de la société mère allemande d'une société énergétique britannique, et ont fraudé avec succès 220 000 euros (environ 1,73 million de RMB) aux employés de l'entreprise.

Aujourd'hui, même la diffusion en direct n'est peut-être pas crédible. Par exemple, Nvidia a récemment introduit une technologie d'image virtuelle en temps réel. Même si le programmeur porte un masque et pêche dans un café, ce que l'autre partie voit sur l'écran de réunion en temps réel peut être qu'il est présent dans son costume de bureau pour le moment. Aussi longtemps que vous le souhaitez, vous pouvez instantanément passer à l'image de vacances au soleil et à la plage.

De nombreux experts ont rappelé que ce phénomène peut facilement amener les gens à se méfier du contenu des réseaux sociaux et même de la société toute entière.

Avec l'effacement des frontières entre réalité et virtualité, notre radar pour distinguer les humains de l'IA échouera fréquemment. Dans le Métavers ou le futur qui se réalisera, vous me demandez si le vieux jaune devant moi est vraiment vieux ? Je n'ose vraiment pas répondre.

Les humains ont besoin d'une petite toupie

Le mois dernier, le documentaire de CNN "Roadrunner: A Film About Anthony Bourdain" a provoqué une vague de discussions sur l'éthique de l'utilisation de l'IA.

Le protagoniste du documentaire est le regretté chef étoilé Anthony Bourdain. Beaucoup de matériel vidéo et audio de sa vie ont été utilisés dans le film, mais le réalisateur n'a pas pris l'initiative d'informer le public : il y a trois narrations qui ressemblent à la propre narration de Bourdain, mais elles sont en fait générées par la technologie de l'IA.

Bien que les textes originaux de ces trois phrases proviennent des courriels écrits par Bourdain, ils mettent toujours les gens mal à l'aise, en colère et trompés. Le professeur de journalisme de l'Université de New York, Meredith Broussard, a déclaré que contrairement aux films de fiction et aux œuvres télévisées, les gens pensent que les documentaires sont réels. Si l'IA est utilisée dans le travail, cela devrait être clairement indiqué.

Nicole Greene, analyste chez Gartner Research, s'engage également à informer clairement lorsque l'IA intervient : « Qu'il s'agisse d'une marque coopérant avec une idole virtuelle ou d'un film utilisant la technologie de l'IA pour reproduire le rôle d'un acteur décédé, tant que les consommateurs savent ce que se passe, ils sont acceptables."

Depuis 2015, l'Associated Press utilise l'IA pour générer automatiquement des informations sur les bénéfices de l'entreprise, et chaque article sera accompagné d'une note : « Cette histoire est générée automatiquement par Automated Insights. » Pour vous dire clairement, il s'agit du manuscrit écrit par AI Moving Bricks.

Cette phrase simple est comme le « guide des parents » avant le début d'un film d'horreur, l'emballage des nouilles instantanées et la publicité des hamburgers « tout prévaut en nature ». Il s'agit de la notification d'information la plus élémentaire, et c'est également la responsabilité du producteur envers le consommateur. À une époque où le deepfake et d'autres technologies consomment la confiance, ils peuvent même rétablir la confiance.

Nous ne refusons pas à l'IA de s'introduire dans la vie réelle, car elle apporte d'infinies nouvelles possibilités d'efficacité et de créativité (comme pour l'abus de l'IA, c'est un autre sujet). Mais nous voulons tous avoir le droit de savoir.

Lil Miquela, l'une des idoles virtuelles les plus chaudes au monde, a fait ses débuts en 2016 et n'a admis qu'en 2018 qu'il n'était pas un vrai être humain. Maintenant, son auto-présentation sur Instagram est écrite comme "un robot de 19 ans vivant à Los Angeles" ; et Imma, qui est également populaire, s'appelle une "fille virtuelle intéressée par la culture japonaise".

Bien qu'il ne s'agisse essentiellement que d'une chaîne de codes composée de 0 et 1, cela n'affecte pas la poursuite de ceux-ci par les jeunes. Aujourd'hui, Miquela et Imma comptent des millions de fans, les ressources de coopération mode et publicité sont adoucies, et ce sont de véritables célébrités des réseaux sociaux.

En repensant au vrai et au faux Huang Renxun de NVIDIA cette fois, si je peux déranger l'IA ou le staff pour ajouter une ligne d'explication sur l'écran de démonstration, est-il possible d'éviter "choqué ! Le monde entier est trompé" "Lao Huang dans la conférence de presse est tout faux "Ce genre d'incident oolong?

Dans un monde où le vrai et le faux sont difficiles à distinguer, les humains ont besoin de la toupie ou de la toupie dans "Inception" pour nous le rappeler : le devant est un espace virtuel, restez vigilant et passez prudemment.

Actuellement, des sociétés Internet telles que Facebook, Google et Twitter étudient comment détecter et freiner la diffusion de vidéos Deepfake, et certaines zones ont également émis des interdictions pertinentes. Mais c'est toujours comme un jeu du "chat et de la souris".

En ce qui concerne les limites de l'utilisation de l'IA et les questions éthiques, on estime que les lois et réglementations pertinentes seront promulguées à l'avenir. Amis, nous sommes à l'entrée du méta-univers. Le faux est vrai et le vrai est faux. Tout vient de commencer.

#Bienvenue pour suivre le compte WeChat officiel d'Aifaner : Aifaner (WeChat ID : ifanr), un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo