Les populaires lunettes intelligentes IA ont été transformées en une nouvelle « caméra cachée et artefact de chair humaine »

Les Google Glass, dévoilées lors de la conférence Google I/O en 2012, sont connues comme le produit le plus raté de l'histoire de Google, mais elles ont également laissé une marque dans l'histoire de la technologie.

Il existe de nombreuses raisons pour lesquelles cela a échoué, la vie privée risque d’en faire partie.

Il est facile de demander à Google Glass de prendre des photos, d'utiliser des commandes vocales ou d'appuyer longuement sur le bouton situé en haut, mais il n'y a aucun signe lumineux tel que des LED pour rappeler aux autres qu'ils sont en mode prise de vue.

Par conséquent, du point de vue des passants, les Google Glass sont un « appareil photo caché » contraire à l'éthique. Certains utilisateurs ont même été expulsés par les agents de sécurité dans les salles de cinéma.

Aujourd'hui, des choses similaires se produisent encore, et elles s'aggravent encore : les lunettes IA peuvent reconnaître vos informations personnelles simplement parce que vous vous regardez une fois de plus dans la foule.

Un visage, une paire de lunettes, une rencontre avec un inconnu

Vous vous appelez Lee ? Êtes-vous diplômé du Bergen County College ? Votre nom coréen est-il Joo-oon ? Vivez-vous à Atlanta? Nous sommes-nous rencontrés à la Cambridge Community Foundation ? Vos parents sont-ils John et Susan ?

Si vous étiez approché par quelqu'un dans la rue et que vous ne l'aviez jamais rencontré, mais qu'il semblait vous connaître, vous appelait avec enthousiasme et vous donnait une ou deux informations personnelles, comment réagiriez-vous ?

Deux étudiants de Harvard, AnhPhu Nguyen et Caine Ardayfio, ont mené une telle expérience.

Portant les lunettes intelligentes de Meta, Meta Ray-Ban, ils ont identifié au hasard des dizaines d'inconnus sur le campus, dans le métro, etc. Prenez une photo de quelqu'un et en quelques secondes, ses informations apparaîtront sur votre téléphone.

C'est juste que les lunettes intelligentes elles-mêmes ne peuvent pas produire l'effet d'un tel programme. Elles ont apporté quelques modifications techniques, mais le principe n'est pas compliqué.

Tout d'abord, la vidéo est transmise à Instagram en temps réel via la fonction de diffusion en direct des lunettes intelligentes Meta, puis un programme informatique est utilisé pour surveiller le flux vidéo et utiliser l'IA pour la reconnaissance faciale.

Ensuite, d'autres photos d'une certaine personne sont recherchées sur Internet, et le nom, l'adresse, le numéro de téléphone et même les informations relatives de la personne sont trouvés sur la base de bases de données publiques.

Enfin, les informations sont envoyées à une application mobile qu’ils ont écrite pour une visualisation facile. Tout est prêt, sauf effrayer un passant au hasard.

Pour élaborer, les deux étudiants ont combiné diverses technologies existantes et matures, dont l’IA générative.

• Lunettes intelligentes : lunettes intelligentes équipées de caméras pour capturer des images de visages dans les lieux publics.
• Reconnaissance faciale inversée : faites correspondre les images faciales avec les images publiques sur Internet via des moteurs de recherche de visages tels que PimEyes et renvoyez des liens Web vers ces images.
• Outil d'exploration : utilisez l'outil d'exploration FireCrawl pour explorer les données requises à partir de ces liens Web.
• Grands modèles linguistiques : les grands modèles linguistiques déduisent des détails tels que les noms, les professions, etc. à partir de données récupérées et désordonnées.
• Bases de données : saisissez un nom sur des sites comme FastPeopleSearch pour trouver des informations personnelles telles que des adresses personnelles, des numéros de téléphone et des noms de proches dans les archives publiques et sur les réseaux sociaux.

Parmi eux, le grand modèle de langage joue un rôle très subtil : il peut comprendre, traiter et compiler une grande quantité d'informations provenant de différentes sources, par exemple, il peut associer le même nom dans différents articles, déduire l'identité d'une personne grâce à une logique contextuelle. et laissez les données Le processus d'extraction est automatisé.

Concernant la capacité de raisonnement des grands modèles de langage, nous avons déjà fait état d'une étude intéressante. Les amis intéressés peuvent consulter cet article : "Chatter avec GPT-4, une nouvelle façon de fuite de confidentialité" .

Les fuites de confidentialité sont monnaie courante, la reconnaissance faciale n'est pas nouvelle et le problème de la photographie secrète n'apparaît pas tous les jours ou deux. Au cours des deux dernières années, les grands modèles sont devenus un outil de productivité dont de nombreuses personnes ne peuvent pas vivre.

Cependant, la réaction chimique de la forte alliance entre eux a néanmoins conduit à un résultat très effrayant : par le simple fait de rencontres fortuites dans la rue, nos informations personnelles peuvent être extraites par quelqu'un de cœur.

Les deux étudiants n'ont pas divulgué les détails techniques au monde extérieur. Le but de cette expérience était de rappeler aux gens de rester vigilants.

Alors comment pouvons-nous nous protéger ? La réponse qu'ils proposent est de supprimer leurs données des sources de données telles que les moteurs de recherche de visages, mais il est difficile de dire si cela est complet ou non.

Même si je vous l'ai rappelé, vous ne savez peut-être pas que vous avez été photographié en secret

Quelqu'un a plaisanté à l'époque en disant que la plus grande utilisation des Google Glass était de permettre au prince Charles de la famille royale britannique de se souvenir du nom de chacun.

Peut-être que grâce à des lunettes intelligentes prenant en charge la reconnaissance faciale, nous inaugurerons un monde sans étrangers. La personne la plus heureuse est peut-être Yagami Yue.

Vous vous demanderez peut-être : grâce à la base de données et à la reconnaissance faciale, il devrait être possible de prendre des photos secrètes avec un téléphone portable. Pourquoi ont-ils choisi les lunettes intelligentes Meta Ray-Ban ?

La raison est simple : elles ressemblent à des lunettes de soleil ordinaires. Elles ne sont pas aussi cyberpunk que les Google Glass. Elles sont plus pratiques pour prendre des photos secrètes, et les lunettes sont adaptées pour enregistrer, en mains libres, et voir ce que vous voyez.

Meta Ray-Ban n'est pas sans rappels. Il dispose d'un indicateur LED lorsque l'utilisateur enregistre une vidéo, il s'allume automatiquement pour le rappeler aux passants. Mais c'est mieux que rien.

Un précédent examen de The Verge a révélé que le son des LED et de l’obturateur des Meta Ray-Ban n’est pas perceptible dans des conditions extérieures lumineuses. Dans les lieux publics bondés et bruyants, de nombreuses personnes ont tendance à ne pas remarquer ces détails.

Lorsque vos mains sont sur les boutons des branches, les autres peuvent penser que vous tenez simplement vos lunettes.

Il n'est donc pas difficile de comprendre que la confidentialité a toujours été au centre des préoccupations des lunettes intelligentes. Lorsque les premières lunettes AR Orion de Meta ont été lancées il y a quelque temps, certaines personnes s'inquiétaient de savoir si elles répéteraient les erreurs des Google Glass.

Meta a également souligné « comment porter des lunettes intelligentes de manière responsable » dans la politique de confidentialité de Meta Ray-Ban et a écrit de nombreux rappels chaleureux.

Cependant, tout est facultatif. Que vous respectiez les autres ou que vous utilisiez votre voix ou vos gestes pour le rappeler aux autres avant un tournage ou une diffusion en direct, tout dépend de votre propre conscience.

Sans oublier que la forme des lunettes est plus pratique pour la photographie franche. En fait, les entreprises technologiques peuvent directement concevoir des lunettes intelligentes prenant en charge la reconnaissance faciale. L'obstacle n'est pas la technologie elle-même.

En 2021, des médias étrangers ont rapporté que Meta avait envisagé d’intégrer des fonctions de reconnaissance faciale dans des lunettes intelligentes. À cette époque, Andrew Bosworth, directeur de la technologie de Meta, a également donné un exemple selon lequel de telles lunettes intelligentes pourraient aider les utilisateurs aveugles ou incapables de se souvenir de leur nom à reconnaître quelqu'un lors d'un dîner.

En outre, la startup de reconnaissance faciale Clearview AI a développé ses propres lunettes et applications AR, qui, selon elle, peuvent se connecter à une base de données de 30 milliards de visages, mais elles ne sont pas vendues publiquement.

Dans une certaine mesure, la manière d'utiliser la reconnaissance faciale et la manière d'empêcher les photos secrètes sont limitées par la loi et la morale.

Par exemple, la technologie de reconnaissance faciale de Facebook permettait autrefois aux utilisateurs de marquer des amis sur des photos. Les questions concernant la vie privée étaient naturellement inévitables. Lors d'un recours collectif en 2015, Facebook a payé 650 millions de dollars en compensation.

En 2021, Facebook a annoncé qu'il cesserait d'utiliser la technologie de reconnaissance faciale pour identifier les personnes sur les photos et les vidéos et supprimerait les données associées de plus d'un milliard de personnes.

La reconnaissance faciale, quel cliché. Mais la technologie la plus banale, en raison de sa maturité, de sa popularité et de sa large application, donne aux gens le sentiment d’être confrontés à un ennemi redoutable.

Face à l’IA, il y a de moins en moins de secrets

Dans les expériences des étudiants de Harvard, le rôle des grands modèles de langage est d'aider à traiter les données, mais désormais, en utilisant divers produits d'IA générative, nous fournissons souvent activement nos propres données.

Parce que souvent, payer pour la confidentialité est indispensable pour utiliser des services, tels que confier votre visage au logiciel P-picture qui change le visage de l'IA.

En outre, non seulement les visages, mais aussi le matériel et les logiciels d’IA mettent de plus en plus l’accent sur la notion de données personnelles.

Par exemple, utilisez un produit d'enregistrement IA pour enregistrer de manière transparente votre journée, révélez votre routine quotidienne et vos loisirs dans un journal IA, ou laissez simplement ChatGPT se souvenir de qui nous sommes grâce à la fonction de mémoire.

L'IA vous comprendra progressivement mieux, vous analysera, organisera les informations autour de vous, vous fournira plus de valeur émotionnelle et compensera vos capacités cérébrales limitées.

Dans le même temps, ces produits mettront également l'accent sur la confidentialité et la sécurité. Soit ils déclarent que vos données vous appartiennent et n'utiliseront pas vos données pour former des modèles, soit ils utilisent des modèles finaux qui s'exécutent localement, ou des nuages ​​privés, qui augmentent la sécurité. risque de fuite de confidentialité.

Il est difficile de concilier confidentialité et commodité. Lorsque nous apprécions le plaisir et la personnalisation de divers produits d’IA, des risques nous accompagnent également.

Tout comme le cerveau électronique de "Ghost in the Shell", les gens connectent directement leur cerveau à Internet ou interconnectent leurs cerveaux. Ils peuvent communiquer entre eux rapidement, mais il existe également un risque d'invasion du cerveau, et même des souvenirs peuvent le faire. être forgé.

Bien sûr, la fuite de la vie privée peut être comme la reconnaissance faciale. C'est un sujet ennuyeux et sans originalité. Vous le divulguez, je le divulgue, et il le divulgue aussi. C'est comme si ça n'avait pas d'importance, c'était pareil.

Mais si quelqu'un s'approche de vous avec des « lunettes de soleil » et vous appelle, cette scène a toujours un grand impact, n'est-ce pas ?

Ce qui est peut-être encore plus préoccupant, c’est le pouvoir invisible sur l’information que ceux qui possèdent la technologie et les outils exercent d’abord sur d’autres individus sans méfiance.

Après l’essor des smartphones, de courtes vidéos sur écran vertical et des diffusions en direct se sont également développées. Nous sommes de plus en plus habitués à filmer et à être photographiés. Nous sommes des milieux innocents, ou en d’autres termes, nous ne nous en soucions pas et ne pouvons pas le remarquer.

À l'heure actuelle, nous sommes une goutte d'eau dans le vaste océan, mais à l'avenir, cette goutte d'eau pourrait être focalisée par l'IA derrière la lentille, puis réfractée pour prendre une apparence plus concrète.

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo