Regarder cette grand-mère IA tromper le menteur me rend si heureux
Bonjour menteur, je suis ton cauchemar.
La grand-mère au bon cœur devant moi s'appelle Daisy. Il n'a pas le corps d'une personne réelle, mais c'est un maître de l'IA anti-fraude.
Contrairement à la propagande anti-fraude traditionnelle, Daisy ne vous rappellera pas sérieusement de faire attention à ne pas être trompé. Au lieu de cela, elle partira de la source et discutera avec l'escroc sur des sujets triviaux, épuisant constamment sa patience.
Il n'y aura pas de tarte dans le ciel, mais l'escroc vous lancera un appât.
L'intention initiale de la création de Daisy est d'utiliser la persévérance du menteur pour lui faire perdre du temps et réduire les risques que ce dernier lance des appâts, protégeant ainsi mieux les autres victimes potentielles.
Conformément à cette phrase, la véritable victoire antifraude n’est pas de vaincre les fraudeurs, mais de rendre la fraude non rentable.
Au lieu d’enseigner à une personne comment prévenir la fraude, il vaut mieux faire perdre son temps à un menteur
Le développeur derrière Daisy vient d'O2, une société de télécommunications britannique.
Avec Vodafone, EE et Three, O2 est l'un des quatre plus grands opérateurs de télécommunications du Royaume-Uni. Les chiffres d'O2 montrent que 67 % des Britanniques se disent inquiets d'être victimes d'escroqueries, et un sur quatre est confronté à un certain niveau de fraude chaque semaine.
Face aux ennuis causés par les fraudeurs, O2 a aussi un mal de tête.
Ils ont donc eu une idée intelligente : créer une grand-mère IA, Daisy, et la laisser prendre l'initiative et passer un appel avec l'escroc pendant 40 minutes maximum.
La méthode est quelque peu sacrificielle mais très pratique. Après avoir tourmenté le menteur, le menteur n'aura pas le temps d'escroquer les autres.
Le personnage de Daisy est une vieille grand-mère gentille, qui reflète la vraie vie. Les personnes âgées constituent également le groupe cible le plus courant des escrocs.
Dans la démo officiellement publiée, Daisy a discuté avec le menteur à l'autre bout du fil, partageant de manière vivante ses passe-temps – tricoter des pulls, parler des chats mignons à la maison, etc.
Sans cela, plus la durée de l'appel est longue, mieux c'est.
Lorsqu'il s'agit d'informations importantes telles que les numéros de compte de carte bancaire/mots de passe, cette grand-mère IA inventera également des choses à partir de rien, en se concentrant sur une phrase et une réponse en une phrase, sans tout rattraper, et en mentant les yeux ouverts. .
Murray Mackenzie, chef du département de fraude d'O2, a souligné que le rôle de Daisy était de renverser complètement la situation contre les escrocs. « Nous les avons intelligemment battus et surpassés dans leur « jeu » en les gardant en ligne. "
En fait, avant Daisy, de nombreux outils similaires étaient nés.
Selon le média étranger The Guardian, une équipe de l'université Macquarie en Australie aurait également développé Apate, un robot IA spécialisé dans le « chat » avec les fraudeurs des télécommunications.
Lorsque la police australienne identifiera et interceptera les appels frauduleux dans les télécommunications, elle les transférera vers le « robot victime »
Le créateur Kafaar a révélé un jour l'histoire de la naissance d'Apate.
Alors qu'il était dehors pour un pique-nique avec ses deux enfants, il a raconté une blague à l'arnaqueur. Plus tard, il s'en est inspiré et a commencé à réfléchir à la manière de faire passer le temps des escrocs avec des ragots dénués de sens, les empêchant ainsi de tromper davantage de personnes.
Je pensais que le but était de tromper les escrocs et de leur faire perdre du temps afin qu'ils ne puissent parler à personne d'autre.
Apate a également des centaines d'identités différentes. Chacune de ces identités a des accents différents et des personnalités différentes. Certains font semblant d'être ignorants, certains parlent comme un vieil homme et aiment se répéter, et certains ont un mauvais caractère. Dans l'ensemble, ils sont plus diversifiés. . , principalement pour que les fraudeurs ne reconnaissent pas le modèle.
Bref, il vaut mieux faire perdre du temps à un menteur plutôt que d’enseigner à quelqu’un comment éviter la fraude.
La technologie évolue et le jugement humain constitue toujours la dernière ligne de défense.
Le développement rapide de l’IA offre une excellente opportunité pour la naissance de Daisy.
Daisy est construit sur un modèle de langage étendu (LLM) personnalisé et fonctionne de manière similaire à Google Gemini Live ou aux versions antérieures de ChatGPT Voice.
Le principe spécifique est que l'IA transcrira la voix de l'appelant, puis la grand-mère IA ajustera le style et le contenu de la réponse en fonction de la personnalité du personnage prédéfini, et enfin la convertira à nouveau en voix de la grand-mère IA :
- Transcrire la parole en texte : le processus de conversion des sons capturés en texte est appelé « transcription ». De cette façon, Daisy peut comprendre ce que dit l'appelant et préparer une réponse appropriée.
- Générer des réponses : Daisy utilise un modèle de langage étendu (LLM) personnalisé pour générer des réponses. Ce modèle comprend non seulement les informations textuelles, mais génère également des réponses appropriées basées sur le contexte et les couches de personnalité prédéfinies des personnages.
- Couche de caractéristiques : "Couche de caractéristiques" signifie que lorsque Daisy génère une réponse, elle ajustera le style et le contenu de la réponse en fonction du caractère prédéfini pour la rendre plus cohérente avec le paramètre du personnage, par exemple en étant aussi gentille et patiente qu'une grand-mère. .
- Synthèse vocale : la réponse textuelle générée doit être à nouveau convertie en parole afin que Daisy puisse communiquer avec l'appelant par téléphone. Ce processus est appelé « synthèse vocale » (TTS) et Daisy utilise un modèle d'IA personnalisé pour réaliser cette étape.
De plus, au cours du processus de formation, Daisy a également reçu l'aide d'un blogueur YouTube, Jim Browning.
Le blogueur compte plus de 4 millions de followers sur YouTube et est l’un des anti-arnaqueurs les plus influents de la plateforme. Ses vidéos démontrent non seulement les techniques de fraude, mais révèlent également le fonctionnement de l'ensemble du secteur de la fraude à travers des analyses techniques détaillées et des exemples.
Après tout, les personnes qui vous connaissent le mieux sont toujours vos ennemis, et les menteurs ne font pas exception.
L'ensemble du processus de conversation avec un escroc sur Daisy se fait en temps réel, depuis l'écoute de la voix, la transcription du texte, la génération d'une réponse à la synthèse vocale, il n'y a donc presque aucun retard notable.
Cependant, Daisy n'est pas directement disponible pour les utilisateurs d'O2.
La raison est simple : O2 s'inquiète du fait que les utilisateurs l'utilisent pour exercer des représailles contre les fraudeurs, et leurs recherches internes montrent que 71 % des personnes au Royaume-Uni ont eu des pensées de vengeance contre les fraudeurs qui les ont fraudés ou ont fraudé leurs proches.
Selon le média étranger Techspot, cet outil d'IA a été inclus dans la liste des numéros facilement trompeurs couramment utilisés par les escrocs. Daisy interagit avec les appelants 24 heures sur 24 sans intervention humaine.
Mais le problème est qu’il existe désormais deux types d’escrocs : ceux qui ne comprennent pas l’IA et ceux qui comprennent l’IA.
Il n'y a pas si longtemps, la startup Bland AI a annoncé sur la plateforme X qu'avec le support de grands modèles, son produit deviendrait l'IA conversationnelle la plus rapide au monde et pourra communiquer sans « illusions ».
De plus, le robot Bland AI dispose également d'une parole générative extrêmement naturelle et d'un changement de langue multiple.
En plus d'être très doué pour imiter l'intonation et les pauses de véritables conversations humaines, lors de tests techniques menés par le média étranger WIRED, le robot Bland AI peut même nier qu'il s'agit d'une IA et mentir sur sa véritable identité.
Y compris APPSO, il a également utilisé la personnalisation de l’IA pour générer des jumeaux numériques gratuits mais bien réels.
Avec les progrès de la technologie de l’IA, ces outils peuvent facilement être utilisés par les fraudeurs pour nous tromper.
Le paradoxe est qu'une extrémité du téléphone est connectée à l'IA menteur et l'autre extrémité du téléphone est connectée à l'IA Daisy. L'une complimente, l'autre taquine et les deux côtés sont dans un. boucle infinie. Quiconque connaît cet art sait à quel point le taoïsme est profond ici.
Auparavant, les systèmes de téléphones intelligents étaient déjà très sophistiqués.
Il suffit de faire part de vos besoins au prestataire, et ce dernier pourra rapidement construire une plateforme de gestion. Grâce à des opérations d'interface simples, les utilisateurs peuvent définir des paramètres tels que les compétences vocales, les modèles et les lignes de communication. Après avoir importé les informations de contact, la fonction d'appel sortant automatique peut être lancée.
À cette fin, les fabricants nationaux de téléphones mobiles ont également déployé de nombreux efforts à cet égard.
Par exemple, la plupart des systèmes de téléphonie mobile nationaux offrent la fonction d'identifier et d'intercepter intelligemment les pseudo-stations de base. De plus, vous pouvez également activer la fonction « Identification en ligne des numéros inconnus » dans les paramètres de blocage d'appels pour permettre au système d'identifier et d'intercepter plus précisément les appels harcelants.
L'arnaque est essentiellement un jeu de dépistage, et les escrocs ne se soucient pas s'ils échouent 999 fois, ils n'ont besoin de réussir qu'une seule fois.
Étant trompé, tout va à zéro.
Il est vrai que les techniques de fraude peuvent varier, mais la formule antifraude officielle suivante ne se démodera jamais.
Personne (étranger) + communication (divers outils de communication, de toute façon, vous ne pouvez pas vous rencontrer en personne) + demande (transfert et remise, de toute façon, ce n'est qu'une question d'argent) = fraude.
À l'ère de l'IA, les escrocs et les technologies anti-fraude sont améliorés, et le jugement humain est toujours la dernière ligne de défense.
# Bienvenue pour suivre le compte public officiel WeChat d'Aifaner : Aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.
Ai Faner | Lien original · Voir les commentaires · Sina Weibo