Microsoft transforme l’outil d’évaluation de la sécurité de l’IA Counterfit Open Source
Microsoft a transformé son outil d'évaluation des risques de sécurité de l'IA, Counterfit, open-source, permettant à quiconque de commencer à utiliser l'outil gratuitement. Actuellement, les organisations peuvent utiliser Counterfit pour automatiser les évaluations des risques de sécurité, en s'assurant que la protection qu'elles utilisent est à la hauteur.
Microsoft lance Counterfit en tant qu'outil Open Source
Microsoft a initialement développé Counterfit en tant qu'outil interne capable d'évaluer rapidement la sécurité des systèmes d'IA et d'apprentissage automatique. Il a commencé sa vie comme une collection de scripts avant de se transformer rapidement en une automatisation générique d'IA qu'un opérateur peut utiliser pour «attaquer plusieurs systèmes d'IA» à la fois.
Microsoft utilise désormais régulièrement Counterfit comme outil de base dans les opérations de l'équipe rouge de l'IA. Comme Counterfit est indépendant de l'environnement, du modèle et des données, l'outil peut fournir une évaluation précise sans impédance.
L'outil lui-même est conçu pour être utilisé par des professionnels de la sécurité. Counterfit utilise des flux de travail similaires à d'autres outils populaires de l'équipe rouge tels que Metasploit ou PowerShell Empyre, avec une prise en charge étendue des scripts, des algorithmes d'attaque préchargés, de l'analyse des vulnérabilités, de la journalisation avancée, etc., accessibles via la ligne de commande.
Microsoft a également beaucoup travaillé avec des professionnels de la sécurité et de grandes organisations pour mieux développer Counterfit. Sur le blog Microsoft Security , Matilda Rhode, chercheuse senior en cybersécurité chez Airbus, a déclaré:
L'IA est de plus en plus utilisée dans l'industrie; il est vital de se tourner vers l'avenir pour sécuriser cette technologie, en particulier pour comprendre où les attaques spatiales peuvent être réalisées dans l'espace problématique. La publication d'outils open source d'une organisation telle que Microsoft pour les praticiens de la sécurité afin d'évaluer la sécurité des systèmes d'IA est à la fois la bienvenue et une indication claire que l'industrie prend ce problème au sérieux.
Vous pouvez trouver le Microsoft Counterfit open-source sur leur GitHub officiel.
Pourquoi Counterfit est-il utile?
Même pour une entreprise de la taille de Microsoft, effectuer des évaluations de sécurité efficaces n'est pas facile, en particulier lorsque ces entreprises sont d'énormes leaders Fortune 500, des gouvernements, des organisations à but non lucratif, etc. Une étude précédente de Microsoft a révélé qu'un grand nombre d'entreprises étaient incapables de tester leurs systèmes d'IA avec précision.
Nous avons constaté que 25 entreprises sur 28 ont indiqué qu'elles ne disposent pas des bons outils pour sécuriser leurs systèmes d'IA et que les professionnels de la sécurité recherchent des conseils spécifiques dans ce domaine.
Counterfit facilite la réalisation de ces évaluations, en automatisant le processus d'analyse et de test.
En outre, une étude Gartner récemment publiée a répertorié l'adoption de la sécurité de l'IA comme l'une des mesures de sécurité les plus importantes qu'une entreprise puisse prendre pour améliorer la protection. La même étude a noté que "D'ici 2024, les organisations qui mettent en œuvre des contrôles de gestion des risques dédiés à l'IA réussiront à éviter les résultats négatifs de l'IA deux fois plus souvent que celles qui ne le font pas."
En bref, Counterfit devenant un outil d'évaluation de la sécurité de l'IA open source devrait contribuer à rendre le monde un peu plus sûr.