Méta-avertissement pour rechercher les escroqueries liées à ChatGPT

Aussi sûr que la nuit suit le jour, les escrocs n'ont pas tardé à s'intéresser à ChatGPT , le chatbot avancé alimenté par l'IA d'OpenAI soutenu par Microsoft qui a fait irruption sur la scène en novembre.

Dans un nouveau rapport de sécurité publié par Meta mercredi, la société anciennement connue sous le nom de Facebook a déclaré que depuis mars seulement, ses analystes en sécurité ont découvert environ 10 types de logiciels malveillants se faisant passer pour ChatGPT et des outils similaires basés sur l'IA qui visent à compromettre les comptes en ligne, en particulier celles des entreprises.

Les escroqueries pourraient être diffusées via, par exemple, des extensions de navigateur Web – dont certaines se trouvent dans les magasins Web officiels – qui offrent des outils liés à ChatGPT et pourraient même offrir certaines fonctionnalités de type ChatGPT, a écrit Guy Rosen, responsable de la sécurité de l'information de Meta, dans la poste. Mais les extensions sont finalement conçues pour inciter les utilisateurs à donner des informations sensibles ou à accepter des charges utiles malveillantes.

Le responsable de la sécurité de l'information de Meta a déclaré que son équipe avait vu des logiciels malveillants se faire passer pour des applications ChatGPT, puis, après détection, avait simplement basculé leurs leurres vers d'autres produits populaires tels que l'outil Bard alimenté par l'IA de Google, dans le but d'éviter la détection.

Rosen a déclaré que Meta avait détecté et bloqué le partage de plus de 1 000 URL malveillantes uniques sur ses applications et les avait signalées aux entreprises où le logiciel malveillant était hébergé pour leur permettre de prendre leurs propres mesures appropriées.

Meta a promis de continuer à mettre en évidence le fonctionnement de ces campagnes malveillantes, à partager des indicateurs de menace avec les entreprises et à introduire des protections mises à jour pour faire face aux nouvelles tactiques des escrocs. Une partie de ses efforts comprend également le lancement d' un nouveau flux de support pour les entreprises touchées par les logiciels malveillants.

Citant l'exemple des escroqueries cryptographiques, Rosen a noté comment la nouvelle agression par les cybercriminels suit un modèle selon lequel ils exploitent la popularité de produits technologiques nouveaux ou bourdonnants pour essayer d'inciter des utilisateurs innocents à tomber dans leurs ruses.

"L'espace de l'IA générative évolue rapidement et les mauvais acteurs le savent, nous devons donc tous être vigilants", a averti Rosen.