L’IA a changé le visage d’entreprises multinationales escroquées de près de 200 millions, méfiez-vous de ces nouvelles arnaques

Dans la nouvelle année et la nouvelle atmosphère, en plus d'avoir de bonnes relations avec le Dieu de la richesse, il est également important de garder votre sac d'argent.

Le processus de mise en œuvre de la technologie correspond souvent à l’évolution du contenu pornographique et des routines frauduleuses.

Profitant du solde restant pendant les vacances, apprenez à vos aînés à se méfier des nouvelles arnaques de l'IA, afin que vous puissiez atteindre la « prospérité commune » du groupe familial « famille aimante ».

Attraper de nombreux blogueurs IA peut tromper les gens plus que "Fake Jin Dong"

Il est dit dans "Westward Journey" que les humains sont nés d'humains et que les démons sont nés de démons. L'IA produite par le code n'a pas de parents, mais elle veut prétendre être de la chair et du sang pour vous faire mal comprendre comme un être humain.

Récemment, de nombreuses « beautés russes » sont apparues sur des comptes vidéo. Ils ont tous la peau claire et sont beaux, et leur mandarin est courant, mais la fragmentation et la prononciation de leurs phrases sont étranges, et leurs intonations et sons nasaux sont difficiles à prononcer. Bien entendu, compte tenu de leur statut d’étranger, il serait naturel d’avoir un accent.

Ils sont enthousiastes et aiment la culture chinoise. Ils ont étiqueté la vidéo avec des étiquettes telles que "Filles russes en Chine" et "Amitié sino-russe", et ont présenté aux téléspectateurs des "spécialités locales" telles que des saucisses de tendon de bœuf, des grosses côtes, du lait de chèvre en poudre, et concombres marinés. , chocolat, savon artisanal.

Ils ont des sourcils qui semblent froncés mais pas froncés, et des yeux qui semblent heureux mais pas heureux. En plus de transporter des marchandises, ils expriment également leurs opinions. Ils croient que l'amour ne connaît pas de frontières et croient que la simplicité est la Ils déplorent la prospérité d'ici et veulent épouser leurs parents et leur sœur.

Ce sont peut-être des sœurs perdues depuis longtemps. Yelena et Elena se ressemblent exactement et leurs adresses IP sont toutes deux originaires du Shandong. Ils sont comme une boule de feu lorsqu'ils sont rassemblés et un ciel plein d'étoiles lorsqu'ils sont dispersés. Ils sont distribués partout dans le monde. Lina est de Shanghai, Nina est d'Anhui, Irene est du Hebei, Katya est du Liaoning et Alyssa est du Fujian.

Ces beautés russes sont toutes des IA, et la plateforme les a judicieusement marquées. On peut faire la différence à travers leurs arrière-plans flous exagérés, leurs cheveux non peignés, leurs ensembles d'expressions et de mouvements répétés et leurs lignes trop terre-à-terre.

Mais les personnes d'âge moyen et âgées dans la zone de commentaires ne pouvaient pas le voir et espéraient sincèrement qu'elles resteraient. En répondant, les "beautés russes" ne se préoccupaient que de leur mission et accomplissaient une fraude douce en toute discrétion.

C’est dans la nature humaine de se laisser séduire par la beauté, quel que soit son âge. Les beaux blogueurs IA de Xiaohongshu utilisent des personnages à la mode et conviviaux sur Internet pour tuer petits et grands. "Homme d'élite en costume", "étudiant sportif en chaussettes blanches", "déesse du pur désir"… À première vue, je pensais juste qu'il s'agissait de vraies personnes qui avaient passé la photo P.

À l'heure actuelle, regarder les mains est encore le seul moyen de déterminer s'il s'agit d'une IA, car le visage est relativement plat et facile à apprendre, tandis que les mains ont une structure tridimensionnelle, ce qui demande plus de travail. Inutile de dire que le nombre de doigts est excessif et les jointures sont si soigneusement tordues qu'il est très suspect de ne pas montrer ses mains sauf si cela est nécessaire. De même, des détails tels que les muscles, les membres, les vêtements, etc. peuvent également présenter des défauts évidents.

Le reste des méthodes d'identification deviennent de plus en plus métaphysiques et intuitives : le style de peinture est gras, la rédaction est trouble, il n'y a pas de souffle de vie, les effets de lumière et d'ombre ne sont pas naturels, les yeux sont sans vie, le visage l'est aussi. délicat et parfait, il n'y a que des images statiques et pas de vidéos, uniques. Il est difficile d'en être sûr en regardant simplement une image, mais si vous regardez quelques images supplémentaires, vous constaterez que chaque posture a la même expression…

Le blogueur IA de Xiaohongshu @cyberAngel_ est ingénieur logiciel de profession, et la peinture IA est un passe-temps qui génère de l'électricité. Il ne cache pas le fait qu'il utilise l'IA. Le titre de son article indique "AI Painting", et son profil de compte indique également "Je suis juste un robot sans émotion."

Dans le même temps, @cyberAngel_ estime que les futures peintures de l'IA deviendront de plus en plus difficiles à distinguer entre le vrai et le faux. La génération et la détection de l'IA évoluent ensemble. Les créateurs sont plus conscients des différences entre l'IA et les vraies personnes, ils travailleront donc Difficile de faire en sorte que cette partie « ressemble » à de vraies personnes. Par exemple, la belle fille produite par l'IA est trop parfaite, elle peut donc être floue de manière appropriée et ajouter une « sensation de film ».

Même si le blogueur beauté IA n'est pas si réel, une intrigue similaire à celle de "Beauté russe" est apparue. La plateforme a clairement incité à dire que "soupçonné de contenir des informations sur la création d'IA". Il y a encore des gens qui laissent des pets arc-en-ciel dans le zone de commentaires, et même demander des liens vers des vêtements. Il semble que la question du vrai ou du faux cédera inévitablement la place à la beauté comme justice.

Lorsque le nombre de fans augmente, les blogueurs beauté IA peuvent monétiser de nombreuses manières. Certains sont autonomes et monétisent leur trafic grâce à la publicité. Certains paient pour des connaissances, vendent des cours et vendent des modèles personnalisés. Selon @cyberAngel_, "New media There sont des méthodes de monétisation des nouveaux médias, et la technologie a des méthodes de monétisation technologique.

Les « beautés russes » et les « beaux blogueurs » de l'IA ressemblent quelque peu aux « faux Jin Dong » qui escroquaient auparavant les femmes d'âge moyen et âgées de leurs émotions et de leur argent, mais elles sont encore plus effrayantes et plus imaginatives.

"Fake Jin Dong" n'a aucun contenu technique. Les vidéos et photos liées à des célébrités sont téléchargées ou achetées en paquets. Sa voix affectueuse est forgée à l'aide d'un logiciel de changement de voix. Elle est si rugueuse qu'elle "faux au premier coup d'oeil". Le niveau est plus élevé, et parfois c'est réel, ce n'est pas si facile à distinguer.

On peut seulement dire que lorsque nous voyons de beaux mecs et de belles filles sur Internet, il est préférable de ne pas supposer qu'il s'agit de vraies personnes, ni d'être trop sincère. Les sociétés de célébrités sur Internet ne veulent pas dépenser d'argent pour de vrais KOL, et le public consomme plus rapidement des lots de KOL, les visions du beau et du bon marché sont ainsi conformes aux lois de la communication d'Internet.

L'IA imite votre visage et effraie votre cœur

En plus de ratisser large en passant par les « beaux blogueurs » et les « beautés russes », l’IA peut également cibler avec précision.

En d’autres termes, l’IA peut non seulement tisser une douce campagne, mais aussi se transformer en un maître PUA.

Un type courant de fraude par IA consiste à falsifier l'identification de l'appelant et la voix d'une connaissance, et à dire aux personnes d'âge moyen et âgées qui reçoivent l'appel que leurs petits-enfants sont en difficulté. Soit ils ont commis quelque chose et ont besoin d'argent pour résolvez le problème, sinon ils sont en danger. Sauvés avec une rançon.

Plusieurs escroqueries téléphoniques de ce type ont été signalées à l'étranger. Les complots sont similaires : enlèvements, blessures, conduite en état d'ébriété et collisions arrière… Des choses similaires se sont également produites en Chine, notamment en utilisant la « différence de temps et d'espace » pour fabriquer l'enlèvement. d'étudiants internationaux pour escroquer leurs parents.

La routine elle-même n'est pas nouvelle et est populaire depuis plusieurs années, mais en raison du développement technologique, les exigences en matière de puissance de calcul, d'échantillons et d'autres aspects ont été réduites, l'effet est plus réaliste et l'arnaque est plus facile à mettre en œuvre.

ElevenLabs, le leader du clonage vocal IA, n'a besoin que d'un dollar et d'une minute d'audio de haute qualité, vous permettant de maîtriser instantanément 29 langues et plusieurs tonalités tout en conservant votre propre accent, intonation et rythme.

Bien qu'Elevenlabs d'aujourd'hui ait assuré à plusieurs reprises que vous seul pouvez cloner votre propre voix et qu'il existe un processus de vérification pour prouver que la voix vous appartient, il s'agit d'un dernier recours. Lorsque Elevenlabs a lancé pour la première fois la version bêta en 2023, les voix clonées de célébrités comme Taylor Swift volaient déjà partout. . Je ne peux pas décider de ce que dit l’IA Taylor Swift.

Cependant, bien que l'autre partie puisse simuler l'identification et la voix de l'appelant, si la personne concernée est lucide, raccroche, saisit à nouveau le numéro de téléphone portable et prend l'initiative de contacter ses proches, le mensonge sera souvent auto -défaite.

Par rapport aux appels vocaux, les appels vidéo peuvent rendre les personnes d'âge moyen et âgées qui croient que « voir c'est croire » plus sceptiques quant à la vie.

La vieille blague consistant à ne pas savoir qui est un humain ou un chien de l’autre côté de l’écran ne se démodera jamais, et elle n’est pas difficile à réaliser techniquement. Une opération plus courante consiste à discuter avec l'autre partie via un logiciel de caméra virtuelle et une fonction de changement de visage AI.

Une entreprise technologique de Shenzhen interrogée par CCTV qui fournit un soutien technique à l'agence de sécurité publique a déclaré que lors du changement de visage en temps réel dans un chat vidéo, qu'il s'agisse d'un avatar ou d'une photo d'un cercle d'amis, après avoir téléchargé l'image, la reconnaissance des fonctionnalités ne prend que environ 30 secondes, puis l'IA commence à créer le modèle et effectue une conversion en temps réel une fois la modélisation terminée.

Vous vous méfiez peut-être encore des vidéos en tête-à-tête, mais qu'en est-il d'une « équipe professionnelle » en tête-à-tête ?

Récemment, la succursale de Hong Kong d’une entreprise multinationale a été victime d’une fraude de 25 millions de dollars à cause d’IA. La victime était un employé financier. Il a reçu un email du "CFO" du siège britannique et a été invité à participer à une vidéoconférence impliquant des "transactions secrètes". Lors de la réunion, il y avait non seulement le "CFO" mais aussi plusieurs « collègues » familiers ».

Les collègues participant à la réunion n'étaient pas vraiment présents. L'escroc a téléchargé la vidéo publique, simulé le visage et la voix de la vraie personne via Deepfake, puis l'a appliqué à la vidéoconférence. Afin d'éviter de révéler le secret, le "CFO" a donné l'ordre unilatéralement. Les "collègues" n'ont pas communiqué avec la victime et la vidéo a été rapidement raccrochée. L'escroc a continué à contacter la victime par e-mail et d'autres méthodes.

Bien qu'il existe des résultats d'enquête à ce sujet, certains internautes soupçonnent qu'il ne s'agit que d'un initié. Les mesures de gestion des risques et de contrôle des entreprises multinationales sont inconnues, mais ce qui est certain, c'est que le changement de visage par l'IA peut également s'étendre à de nombreux endroits, depuis les premiers changements de tête dans les films pornographiques jusqu'aux fausses célébrités apportant des marchandises dans les salles de diffusion en direct.

Heureusement, l’IA n’est pas encore parfaite et la méthode d’identification est encore simple et réalisable.

S'il s'agit d'une vidéo qui change de visage grâce à l'IA, l'image originale de la caméra consomme beaucoup de puissance de calcul lors de la conversion de plusieurs couches, et le son et l'image sont souvent retardés. De plus, vous pouvez guider l'autre personne dans certaines actions, comme ouvrir la bouche, secouer la tête de manière significative, déplacer ses doigts d'avant en arrière devant son visage, etc. Si l'IA change de visage, le « visage » peut être déformé et défectueux.

En plus de résoudre les bugs techniques, il existe une autre astuce qui a été essayée et testée à chaque fois, qui consiste à poser des questions sur la confidentialité que vous connaissez, je sais, et il ne sait pas, ou vous pouvez inventer des mensonges et délibérément utilisez des astuces pour voir comment l’autre partie réagit.

Bien entendu, le manque de technologie ne peut résoudre que des difficultés passagères. Autant le mépriser stratégiquement et y prêter attention tactiquement. Nous ne pouvons pas penser que nous ne serons pas trompés. Il se peut que le jeu haut de gamme ne soit pas encore apparu. .

Les arnaques à l’IA ne sont pas nouvelles, mais une nouvelle fracture numérique est apparue

2023 est connue comme la première année de l'IA générative. Cependant, la promotion de la technologie est à la traîne. Ce que la plupart des gens ordinaires peuvent peut-être mieux percevoir, c'est comment une technologie qui ne semble pas nouvelle mais qui est devenue plus populaire ces dernières années a affecté la vie quotidienne.

Tout le monde comprend que la technologie est une arme à double tranchant. Elevenlabs permet aux personnes ayant des barrières linguistiques de parler, HeyGen permet à Swift de synchroniser le chinois avec les lèvres sans traduction et Miaoya Camera permet aux gens d'obtenir des certificats raffinés sans quitter leur domicile. il n’y a pas de bien ou de mal entre le bon côté et le côté obscur de la technologie, ils existent simplement objectivement.

Cependant, pour de nombreuses personnes d'âge moyen et âgées, les smartphones et Internet leur sont incompréhensibles, et maintenant l'IA cause à nouveau des problèmes.

À l'ère de l'IA, les textes, les sons, les images et les vidéos peuvent être faux, voire apparaître ensemble. Les fausses identités des fraudeurs sont plus spécifiques et la fraude est plus ciblée et authentique, ce qui rend les personnes d'âge moyen et âgées plus nombreuses. susceptible d'être trompé.

Utiliser la magie pour combattre la magie et utiliser la technologie pour attaquer et défendre la technologie est un jeu du chat et de la souris que les personnes d'âge moyen et les personnes âgées ne seront peut-être pas en mesure de digérer rapidement. Nous pouvons partir de la nature de la fraude pour réduire les risques de fraude d'âge moyen. -les personnes âgées et âgées étant dupées.

Quelle que soit l’évolution de la technologie, de nombreux stratagèmes frauduleux restent les mêmes : voler la vie privée, utiliser la peur, l’avidité et la valeur émotionnelle pour inventer des histoires, se faire passer pour des connaissances ou se présenter pour gagner la confiance, avec l’argent comme objectif ultime.

Après que AI Fashion Pope soit sorti de l'industrie, un X (anciennement Twitter) V avec près de 13 millions de fans a déploré : « Je pensais que la doudoune du Pape était réelle et je n'y ai pas beaucoup réfléchi. l'avenir de la technologie.

Pour les personnes d'âge moyen et âgées, il est plus difficile de s'adapter aux règles selon lesquelles voir n'est pas nécessairement vrai et les images ne sont pas nécessairement la vérité. Nous pouvons leur montrer quelques méthodes simples, traditionnelles mais néanmoins efficaces.

La première consiste à être prudent et à ne pas faire facilement confiance au contenu d'Internet, à ne pas répondre à des appels harcelants, à ne pas cliquer sur des liens inconnus et à ne pas surexposer les informations biométriques personnelles telles que les visages, les voix, les empreintes digitales, etc. l'Internet.

Surtout lorsque vous recevez des appels téléphoniques ou des SMS suspects, ne croyez pas aveuglément aux « paroles unilatérales ». Peu importe qui est l'autre partie, elle a plusieurs points de vue en matière d'argent. Utilisez plusieurs méthodes pour vérifier l'identité de l'autre partie. Si l'autre partie dit que quelque chose est arrivé à votre famille, rappelez-la et appelez pour confirmer si cela est vrai.

L’autre type est proactif et préparé : les personnes d’âge moyen et les personnes âgées ont leurs propres médias préférés : les membres de leur famille peuvent leur transmettre des contenus anti-fraude provenant des comptes officiels WeChat des services gouvernementaux et d’autres sources. Si les conditions le permettent, vous pouvez également montrer aux personnes d'âge moyen et âgées comment utiliser des outils d'IA tels que ChatGPT.

Bien sûr, pour les personnes âgées qui ne comprennent pas les smartphones, essayez de résoudre le problème à la source : mieux vaut ne pas lier les cartes bancaires à WeChat ou Alipay et n'économiser qu'une petite somme de monnaie.

Une fraude réussie à l’IA n’est que le résultat final, mais la prévention de la fraude à l’IA peut commencer à tout moment.

La technologie doit être au service de tous, montrer la voie, éclairer le phare du monde numérique pour ceux qui nous succéderont et explorer les récifs sous-marins inconnus. Ce n'est qu'alors que nous pourrons avancer ensemble vers un avenir où la technologie ne sera pas redoutée mais utilisée de manière rationnelle.

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo