Le Federal Bureau of Investigation (FBI), en collaboration avec les autorités néerlandaises et canadiennes, a récemment démantelé une vaste opération de désinformation russe orchestrée par l’intelligence artificielle (IA). Au cœur de ce complot se trouvait une ferme à bots sophistiquée, alimentée par un logiciel nommé « Meliorator« , capable de générer en masse des « personas » en ligne d’apparence authentique. Ces faux profils, dotés de photos de visage générées par l’IA et de noms à consonance américaine, ont inondé la plateforme X (anciennement Twitter) de propagande pro-russe, notamment en diffusant des vidéos de Vladimir Poutine justifiant les actions de la Russie en Ukraine.
Influencer l’opinion publique et semer la discorde
L’objectif de cette opération de désinformation massive, approuvée par le Service fédéral de sécurité de la Russie (FSB), était clair : influencer l’opinion publique américaine et internationale, semer la discorde et promouvoir les intérêts du Kremlin. Les bots, agissant de manière coordonnée, ont diffusé des messages et des images conçus pour manipuler les émotions et polariser les débats en ligne. Cette tactique, bien que n’étant pas nouvelle, a été rendue particulièrement efficace grâce à l’utilisation de l’IA, qui a permis de créer des faux profils d’une crédibilité troublante.
Le démantèlement de cette ferme à bots a mis en lumière l’ampleur de la menace que représente la désinformation alimentée par l’IA. Les autorités américaines ont souligné que cette opération constituait une violation flagrante des lois américaines, notamment de la loi sur les pouvoirs économiques en cas d’urgence internationale et des lois fédérales sur le blanchiment d’argent. Les domaines utilisés pour générer des adresses e-mail pour les comptes de ces bots ont été saisis, et X a suspendu les comptes identifiés.
Une course pour démanteler les réseaux de désinformation
Malgré les efforts déployés, le ministère de la Justice américain recherche encore près d’un millier de comptes impliqués dans cette opération. Cette situation met en évidence la difficulté de lutter contre la désinformation à l’ère de l’IA, où les acteurs malveillants peuvent créer et déployer des armées de bots en un temps record. La coopération internationale est essentielle pour identifier et démanteler ces réseaux de désinformation avant qu’ils ne causent des dommages irréparables à la confiance du public dans les informations en ligne.