Le ministère américain de la Justice (DoJ) a déclaré avoir saisi deux domaines Internet et fouillé près de 1 000 comptes de réseaux sociaux que les acteurs russes auraient utilisés pour diffuser secrètement de la désinformation pro-Kremlin dans le pays et à grande échelle à l’étranger.
“La ferme de robots des réseaux sociaux a utilisé des éléments de l’IA pour créer des profils de réseaux sociaux fictifs – prétendant souvent appartenir à des individus aux États-Unis – que les opérateurs ont ensuite utilisés pour promouvoir des messages soutenant les objectifs du gouvernement russe”, a déclaré le ministère de la Justice.
Le réseau de robots, comprenant 968 comptes sur X, ferait partie d’un plan élaboré élaboré par un employé du média public russe RT (anciennement Russia Today), parrainé par le Kremlin et aidé par un officier du ministère fédéral russe. Service de sécurité (FSB), qui a créé et dirigé une organisation de renseignement privée anonyme.
Les efforts de développement de la ferme de robots ont commencé en avril 2022, lorsque les individus ont acquis une infrastructure en ligne tout en anonymisant leur identité et leur emplacement. L’objectif de l’organisation, selon le DoJ, était de promouvoir les intérêts russes en diffusant de la désinformation à travers des personnages fictifs en ligne représentant diverses nationalités.
Les faux comptes de réseaux sociaux ont été enregistrés à l’aide de serveurs de messagerie privés reposant sur deux domaines – mlrtr[.]com et otanmail[.]com – qui ont été achetés auprès du registraire de domaine Namecheap. X a depuis suspendu les comptes du robot pour violation de ses conditions d’utilisation.
L’opération d’information – qui ciblait les États-Unis, la Pologne, l’Allemagne, les Pays-Bas, l’Espagne, l’Ukraine et Israël – a été réalisée à l’aide d’un logiciel basé sur l’IA baptisé Meliorator, qui a facilité la création et le fonctionnement « en masse » dudit réseau social. ferme de robots multimédias.
“En utilisant cet outil, les affiliés de RT ont diffusé de la désinformation vers et à propos d’un certain nombre de pays, notamment les États-Unis, la Pologne, l’Allemagne, les Pays-Bas, l’Espagne, l’Ukraine et Israël”, ont déclaré les forces de l’ordre du Canada, des Pays-Bas et des États-Unis. .
Meliorator comprend un panneau d’administrateur appelé Brigadir et un outil backend appelé Taras, qui est utilisé pour contrôler les comptes d’apparence authentique, dont les photos de profil et les informations biographiques ont été générées à l’aide d’un programme open source appelé Faker.
Chacun de ces comptes avait une identité ou « âme » distincte basée sur l’un des trois archétypes de robots : ceux qui propagent des idéologies politiques favorables au gouvernement russe, comme les messages déjà partagés par d’autres robots, et perpétuent la désinformation partagée à la fois par les robots et par les non-bots. comptes de robots.
Bien que le progiciel n’ait été identifié que sur X, une analyse plus approfondie a révélé les intentions des auteurs de la menace d’étendre ses fonctionnalités pour couvrir d’autres plateformes de médias sociaux.
De plus, le système a contourné les mesures de protection de X pour vérifier l’authenticité des utilisateurs en copiant automatiquement les codes d’accès à usage unique envoyés aux adresses e-mail enregistrées et en attribuant des adresses IP proxy aux personnages générés par l’IA en fonction de leur emplacement présumé.
“Les comptes personnels de robots tentent évidemment d’éviter les interdictions pour violations des conditions de service et d’éviter d’être remarqués comme des robots en se fondant dans l’environnement plus large des médias sociaux”, ont déclaré les agences. “Tout comme les comptes authentiques, ces robots suivent de véritables comptes reflétant leurs tendances politiques et leurs intérêts répertoriés dans leur biographie.”
“L’agriculture est un passe-temps favori pour des millions de Russes”, aurait déclaré RT à Bloomberg en réponse aux allégations, sans les réfuter directement.
C’est la première fois que les États-Unis pointent publiquement du doigt un gouvernement étranger pour avoir utilisé l’IA dans une opération d’influence étrangère. Aucune accusation criminelle n’a été rendue publique dans cette affaire, mais une enquête sur cette activité est toujours en cours.
Doppelganger vit toujours
Ces derniers mois, Google, Meta et OpenAI ont averti que les opérations de désinformation russes, y compris celles orchestrées par un réseau baptisé Doppelganger, avaient exploité à plusieurs reprises leurs plateformes pour diffuser de la propagande pro-russe.
“La campagne est toujours active ainsi que l’infrastructure réseau et serveur responsable de la distribution du contenu”, ont déclaré Qurium et EU DisinfoLab dans un nouveau rapport publié jeudi.
“Étonnamment, Doppelganger n’opère pas à partir d’un centre de données caché dans une forteresse de Vladivostok ou à partir d’une grotte militaire éloignée de chauves-souris, mais à partir de fournisseurs russes nouvellement créés opérant dans les plus grands centres de données d’Europe. Doppelganger opère en étroite association avec des activités cybercriminelles et des réseaux publicitaires affiliés. “.
Au cœur de l’opération se trouve un réseau de fournisseurs d’hébergement à toute épreuve comprenant Aeza, Evil Empire, GIR et TNSECURITY, qui ont également hébergé des domaines de commande et de contrôle pour différentes familles de logiciels malveillants comme Stealc, Amadey, Agent Tesla, Glupteba, Raccoon Stealer. , RisePro, RedLine Stealer, RevengeRAT, Lumma, Meduza et Mystic.
De plus, NewsGuard, qui fournit une multitude d’outils pour contrer la désinformation, a récemment découvert que les chatbots IA populaires sont enclins à répéter « des récits fabriqués depuis des sites affiliés à l’État se faisant passer pour des médias locaux dans un tiers de leurs réponses ».
Opérations d’influence depuis l’Iran et la Chine
Cela survient également alors que le Bureau américain du directeur du renseignement national (ODNI) a déclaré que l’Iran « devient de plus en plus agressif dans ses efforts d’influence étrangère, cherchant à attiser la discorde et à saper la confiance dans nos institutions démocratiques ».
L’agence a en outre noté que les acteurs iraniens continuent d’affiner leurs activités de cybersécurité et d’influence, en utilisant les plateformes de médias sociaux et en proférant des menaces, et qu’ils amplifient les manifestations pro-Gaza aux États-Unis en se faisant passer pour des militants en ligne.
Google, pour sa part, a déclaré avoir bloqué au premier trimestre 2024 plus de 10 000 instances d’activité de Dragon Bridge (alias Spamouflage Dragon), nom donné à un réseau d’influence spammé mais persistant lié à la Chine, sur YouTube et Blogger. qui promouvait des récits présentant les États-Unis sous un jour négatif ainsi que des contenus liés aux élections à Taiwan et à la guerre entre Israël et le Hamas ciblant les locuteurs chinois.
En comparaison, le géant de la technologie a perturbé pas moins de 50 000 instances de ce type en 2022 et 65 000 de plus en 2023. Au total, il a empêché jusqu’à présent plus de 175 000 instances au cours de la durée de vie du réseau.
“Malgré leur production continue de contenu abondante et l’ampleur de leurs opérations, DRAGONBRIDGE n’obtient pratiquement aucun engagement organique de la part des vrais téléspectateurs”, a déclaré Zak Butler, chercheur au Threat Analysis Group (TAG). “Dans les cas où le contenu de DRAGONBRIDGE a reçu un engagement, il était presque entièrement inauthentique, provenant d’autres comptes DRAGONBRIDGE et non d’utilisateurs authentiques.”
