Génial, les pirates utilisent maintenant ChatGPT pour créer des logiciels malveillants
Une nouvelle menace a fait surface dans la saga ChatGPT , les cybercriminels ayant développé un moyen de pirater le chatbot IA et de l'inonder de commandes malveillantes.
La société de recherche Checkpoint a découvert que des pirates ont conçu des bots capables d'infiltrer l'API GPT-3 d'OpenAI et de modifier son code afin qu'il puisse générer du contenu malveillant, tel que du texte pouvant être utilisé pour des e-mails de phishing et des scripts de logiciels malveillants.
Les robots fonctionnent via l'application de messagerie Telegram. Selon Ars Technica , les acteurs malveillants utilisent les bots pour configurer une version sombre et sans restriction de ChatGPT.
ChatGPT a des boutons pouce vers le haut et pouce vers le bas sur lesquels vous pouvez appuyer dans le cadre de son algorithme d'apprentissage s'il génère du contenu qui peut être considéré comme offensant ou inapproprié. Normalement, les entrées telles que la génération de code malveillant ou les e-mails de phishing sont interdites, ChatGPT refusant de donner une réponse.
Cette alternative de chatbot infâme a un prix de 6 $ pour 100 requêtes, les pirates derrière elle donnant également des conseils et des exemples du mauvais contenu que vous pouvez générer avec cette version. Les pirates ont également mis un script à disposition sur GitHub. Le script OpenAI, basé sur l'API, a la capacité de permettre aux utilisateurs de simuler une entreprise ou une personne, en plus de générer des e-mails de phishing via des commandes de génération de texte. Les robots peuvent également vous aider à placer le lien de phishing dans l'e-mail, selon PC Gamer .
Il est difficile de savoir à quel point ce développement représentera une menace pour les générateurs de texte IA à l'avenir, en particulier avec les grandes entreprises déjà engagées à travailler avec cette technologie de plus en plus populaire. Microsoft Bing devrait bientôt ajouter la prise en charge de ChatGPT à son navigateur dans une prochaine mise à jour dans le cadre de sa collaboration en cours avec OpenAI, par exemple.
Bien que ChatGPT reste gratuit dans un avenir prévisible, moins l' abonnement prioritaire ChatGPT Plus , ce n'est pas la première fois que le générateur de texte AI est ciblé par des escrocs. En janvier, la nouvelle a annoncé que des milliers de personnes avaient été dupées après avoir payé pour les versions d'applications mobiles iOS et Android du chatbot, qui est actuellement un service basé sur un navigateur.
La version Apple App Store était particulièrement populaire, malgré son prix d'abonnement hebdomadaire de 8 $ après un essai de trois jours. Les utilisateurs avaient également la possibilité de payer un abonnement mensuel de 50 $, ce qui était notamment encore plus cher que le coût hebdomadaire. L'application a finalement été supprimée de l'Apple Store après avoir attiré l'attention des médias.
ChatGPT est certainement la cible principale des escrocs car il a gagné en popularité, mais il reste à voir si les mauvais acteurs finiront par sauter sur l'une des nombreuses alternatives ChatGPT qui circulent.