Un pirate informatique a transformé un outil d’IA populaire en une machine à cybercriminalité
L'entreprise à l'origine du célèbre chatbot IA Claude a émis un avertissement effrayant concernant l'utilisation croissante des outils d'IA par les cybercriminels à mesure que la technologie devient de plus en plus sophistiquée.
Dans son dernier rapport Threat Intelligence, Anthropic a détaillé le cas récent d'un pirate informatique qui a utilisé ses outils d'IA pour lancer une cyberattaque ciblant de nombreuses entreprises et organisations.
Selon Anthropic, le pirate a utilisé un agent de codage IA (dans ce cas Claude Code), un outil capable d'écrire, de modifier et d'exécuter du code avec une intervention humaine minimale.
Il a déclaré qu'au cours du mois dernier, le pirate informatique a utilisé l'agent pour automatiser « la reconnaissance, la collecte d'informations d'identification et la pénétration du réseau à grande échelle », volant des données sensibles d'au moins 17 entreprises et organisations du gouvernement, des soins de santé, des services d'urgence et des institutions religieuses.
L'agresseur a pu obtenir les dossiers personnels des gens, y compris leurs données de santé, leurs informations financières et leurs informations d'identification gouvernementales, avant de demander des rançons tout en menaçant de divulguer les données en ligne si les demandes n'étaient pas satisfaites.
L'agent Claude AI a même analysé les données financières volées pour déterminer le montant de la rançon appropriée – jusqu'à 500 000 $ ont été demandés dans certaines attaques – et a également créé des notes de rançon « visuellement alarmantes » qui sont apparues sur les écrans d'ordinateur des cibles.
Anthropic a déclaré que cette opération audacieuse démontre « une évolution inquiétante de la cybercriminalité assistée par l'IA » et « représente un changement fondamental dans la façon dont les cybercriminels peuvent étendre leurs opérations » maintenant que l'IA peut être utilisée pour automatiser une grande partie du processus de piratage, bien que sous direction humaine.
Bien qu'il ne soit pas certain que les victimes de cette affaire aient payé, Anthropic a déclaré avoir pris des mesures pour prévenir ce type d'abus. L'entreprise a toutefois ajouté que cette méthode d'attaque est susceptible de devenir de plus en plus courante « à mesure que l'IA abaisse les barrières à l'entrée des opérations cybercriminelles sophistiquées ».
Son dernier rapport Threat Intelligence a également mis en évidence la manière dont des agents nord-coréens ont utilisé Claude pour obtenir frauduleusement des postes à distance dans des entreprises technologiques américaines du Fortune 500, ainsi qu'un autre cas dans lequel un cybercriminel a utilisé ses outils d'IA pour créer et commercialiser divers produits de ransomware, les vendant à d'autres cybercriminels pour jusqu'à 1 200 $ chacun.
De nombreux pirates informatiques utilisent l'IA sous une forme ou une autre depuis des années. Cependant, des chatbots comme ChatGPT, lancé en 2022, ont facilité le lancement d'attaques, et l'essor des agents IA représente désormais une menace encore plus grande. Heureusement, la technologie exploitée par les attaquants est également exploitée par les entreprises de cybersécurité pour construire une ligne de défense essentielle, même s'il est évident qu'il s'agit d'une lutte constante pour rester dans la course.