Microsoft désactive la reconnaissance faciale, l’IA peut ne pas penser à ce que vous exprimez

Exprimer des émotions avec des expressions faciales est une capacité presque innée de tout le monde. Les gens sont également habitués aux expressions faciales pour deviner les émotions des autres. Cependant, avec le développement rapide de la technologie, l'IA (intelligence artificielle) peut également reconnaître les conditions faciales et les émotions des gens. expression .

Il n'y a pas si longtemps, Microsoft, qui travaillait au développement d'une technologie de reconnaissance faciale, a publié un guide sur le thème "Un cadre pour la construction responsable de systèmes d'intelligence artificielle". Partage ouvertement les normes d'IA responsables de Microsoft, le cadre qui guide la façon dont Microsoft construit des systèmes d'IA.

L'article mentionne que Microsoft a décidé de retirer les fonctionnalités de reconnaissance faciale, Azure Face Services, car ces fonctionnalités peuvent être utilisées pour tenter de déduire des états émotionnels et des attributs d'identité internes, qui, en cas d'abus, pourraient exposer les gens à des stéréotypes, à la discrimination ou à un déni injuste. de services.

Actuellement, le service facial n'est disponible que pour les clients et partenaires hébergés par Microsoft, les clients existants auront un an pour effectuer la transition, mais doivent cesser d'utiliser ces fonctionnalités d'ici le 21 juin 2023 ; les nouveaux utilisateurs peuvent utiliser le formulaire de demande de reconnaissance faciale Demande d'accès.

En fait, Microsoft ne désactive pas complètement la fonctionnalité, mais intègre la technologie dans des outils d'accessibilité "contrôlés", tels que "Seeing AI" pour les personnes ayant une déficience visuelle. Il peut décrire des objets et du texte pour les malvoyants, lire des signes, déchiffrer les expressions faciales de quelqu'un, fournir une navigation, etc. Il prend actuellement en charge l'anglais, le néerlandais, le français, l'allemand, le japonais et l'espagnol.

Les directives, publiées par Microsoft, expliquent le processus décisionnel de l'entreprise technologique, notamment en mettant l'accent sur des principes tels que l'inclusivité, la confidentialité et la transparence, et constituent la première mise à jour majeure de la norme depuis son lancement fin 2019.

Microsoft a déclaré qu'il avait apporté un si grand changement à la reconnaissance faciale parce qu'il reconnaissait que pour que les systèmes d'IA soient dignes de confiance, ils devaient résoudre correctement les problèmes qu'ils étaient censés résoudre.

Dans le cadre des efforts visant à aligner le service Azure Face sur les exigences des normes d'IA responsables, Microsoft déconseillera également de déduire les états émotionnels (heureux, triste, neutre, en colère, etc.) et les attributs d'identité (tels que le sexe, l'âge, le sourire, les poils du visage, Cheveux et maquillage).

Dans le cas des états émotionnels, Microsoft a décidé de ne pas fournir d'accès API ouvert aux technologies qui analysent le visage des personnes et prétendent pouvoir déduire leur état émotionnel en fonction de leurs expressions faciales ou de leurs mouvements.

La page de Microsoft montre qu'il peut être identifié par 27 signes faciaux de personnes, et il existe divers attributs faciaux qui peuvent être jugés, comme si un visage donné est flou, s'il a des accessoires, le sexe et l'âge estimés, s'il porte des lunettes, et le type de cheveux. , Que vous portiez des lunettes, que vous ayez le sourire…

Des experts à l'intérieur et à l'extérieur de Microsoft ont souligné l'absence de consensus scientifique sur la définition de "l'émotion" et le niveau élevé de préoccupations en matière de confidentialité entourant cette capacité. Microsoft a donc également décidé qu'il devait analyser soigneusement tous les systèmes d'IA conçus pour déduire les états émotionnels des gens, qu'ils utilisent l'analyse faciale ou toute autre technologie d'IA.

Il convient de mentionner que Microsoft n'est pas la seule entreprise à s'être sérieusement penchée sur la reconnaissance faciale. Le PDG d'IBM, Arvind Krishna, a également écrit au Congrès américain, révélant que l'entreprise s'était retirée du secteur de la reconnaissance faciale. La raison de la décision des deux sociétés est indissociable de la "mort de Floyd" qui a fait sensation auparavant.

En raison de la crainte que cette technologie ne fournisse des outils de surveillance aux forces de l'ordre, ce qui entraînerait certaines violations des droits de l'homme, et également de la crainte que la vie privée des citoyens ne soit divulguée, et la législation américaine actuelle à cet égard n'est pas très parfaite.

Par conséquent, ces entreprises dotées de technologie ont décidé de commencer par se restreindre, afin que la technologie ne soit pas utilisée abusivement et que la vie privée et les droits humains des citoyens soient mieux protégés. Lorsque l'utilisation d'une technologie n'est pas contrainte par des spécifications parfaites, il peut être préférable de limiter le développement de la technologie elle-même.

#Bienvenue pour prêter attention au compte WeChat officiel d'Aifaner : Aifaner (WeChat : ifanr), un contenu plus excitant vous sera apporté dès que possible.

Love Faner | Lien d'origine · Voir les commentaires · Sina Weibo