Une nouvelle menace a fait surface dans la saga ChatGPT après les demandes détournées, des cybercriminels ayant développé un moyen de pirater le chatbot IA et de l’inonder de commandes de logiciels malveillants.
Des bots pour modifier l’API GPT-3 d’OpenAI
La société de recherche Checkpoint a découvert que les pirates ont conçu des bots capables d’infiltrer l’API GPT-3 d’OpenAI et de modifier son code afin qu’il puisse générer du contenu malveillant, tel que du texte pouvant être utilisé pour des e-mails de phishing et des scripts de logiciels malveillants.
Des bots via Telegram
Les bots fonctionnent via l’application de messagerie Telegram. Selon Ars Technica, les mauvais acteurs utilisent les bots pour mettre en place une version sombre et sans restriction de ChatGPT.
ChatGPT dispose de boutons « pouce en haut » et « pouce en bas » sur lesquels vous pouvez appuyer dans le cadre de son algorithme d’apprentissage s’il génère du contenu pouvant être considéré comme offensant ou inapproprié. Normalement, les entrées telles que la génération de codes malveillants ou d’e-mails de phishing sont hors limites, ChatGPT refusant de donner une réponse.
Cette alternative infâme de chatbot est facturée 6 dollars pour 100 requêtes, et les pirates qui l’ont créée donnent également des conseils et des exemples de mauvais contenu que vous pouvez générer avec cette version. Les pirates ont également mis un script à disposition sur GitHub.
Un script sur GitHub
Le script OpenAI, basé sur une API, permet aux utilisateurs de simuler une entreprise ou une personne, en plus de générer des e-mails de phishing grâce à des commandes de génération de texte. Selon PC Gamer, les robots peuvent également vous aider à placer idéalement le lien de phishing dans l’e-mail.
Il est difficile de savoir dans quelle mesure ce développement constituera une menace pour les générateurs de texte d’IA à l’avenir, surtout que de grandes entreprises se sont déjà engagées à travailler avec cette technologie de plus en plus populaire. Microsoft Bing devrait bientôt ajouter le support de ChatGPT à son navigateur dans une prochaine mise à jour, dans le cadre de sa collaboration avec OpenAI, par exemple.
Des personnes dupées sur IOS et Android
Si ChatGPT reste gratuit dans un avenir proche, sans l’abonnement prioritaire ChatGPT Plus, ce n’est pas la première fois que le générateur de texte d’IA est la cible d’escrocs. En janvier, on a appris que des milliers de personnes avaient été dupées après avoir payé pour des versions iOS et Android de l’application mobile du chatbot, qui est actuellement un service basé sur un navigateur.
La version App Store d’Apple a été particulièrement populaire, malgré son prix d’abonnement hebdomadaire de 8 dollars après un essai de trois jours. Les utilisateurs avaient également la possibilité de payer un abonnement mensuel de 50 dollars, ce qui était encore plus cher que le prix hebdomadaire. L’application a finalement été retirée de l’Apple Store après avoir fait l’objet d’une attention médiatique.
ChatGPT est certainement la principale cible des escrocs depuis qu’il a gagné en popularité, mais il reste à voir si les mauvais acteurs finiront par se jeter sur l’une des nombreuses alternatives à ChatGPT qui circulent comme le futur le Bard de Google par exemple.