Microsoft a nommé quatre individus dans un procès ciblant un réseau mondial de cybercriminalité générerait des fesses de célébrités illicites illicites.
Le 10 janvier, l’unité des crimes numériques de Microsoft (DCU) a annoncé dans un article de blog qu’il engageait des mesures judiciaires contre les cybercriminels qui, la société, a déclaré: “Développement intentionnellement d’outils spécialement conçus pour contourner les garde-corps de sécurité des services générateurs, y compris Microsoft, pour créer un contenu offensif et nuisible.”
Plus précisément, Microsoft a déposé une plainte en décembre pour cibler Storm-2139, un réseau de cybercriminalité qui, selon lui, abusait de services générés par l’IA, de contourner les garde-corps et d’offrir les outils aux utilisateurs finaux pour divers niveaux de service et de paiement. Les utilisateurs finaux utilisaient ensuite les produits contournés “pour générer des violations du contenu synthétique, souvent centrés sur des célébrités et des images sexuelles”, également connues sous le nom de Deepfakes.
À la suite de cette action en justice, Microsoft a déclaré que dans un nouvel article de blog, la société a obtenu une ordonnance d’interdiction temporaire et une injonction préliminaire lui permettant de saisir un site Web instrumental au groupe, “perturbant efficacement la capacité du groupe à opérationnaliser ses services”. Cette perturbation semblait avoir des membres paniqués du groupe.
“La saisie de ce site Web et le décelage ultérieur des dépôts juridiques en janvier ont généré une réaction immédiate des acteurs, dans certains cas, les membres du groupe s’allument et se pointent les uns contre les autres”, a déclaré Steven Masada, avocat général adjoint de Microsoft DCU, dans le blog. “Nous avons observé des bavardages sur le procès sur les canaux de communication surveillés du groupe, spéculant sur les identités du« Jean fait »et les conséquences potentielles.”
Masada a poursuivi: “En conséquence, l’avocat de Microsoft a reçu une variété de courriels, dont plusieurs de membres présumés de Storm-2139 tentant de blâmer les autres membres de l’opération.” Le billet de blog comprend des captures d’écran des membres présumés des membres de Storm-2139 signalant d’autres membres présumés du groupe par e-mail.
Dans la plainte, qui a été modifiée jeudi, Microsoft a nommé quatre individus: Arian Yadegarnia d’Iran, Alan Krysiak du Royaume-Uni, Ricky Yuen de Hong Kong et Phát Phùng Tấn du Vietnam.
Microsoft a allégué que le groupe utilisait la mauvaise utilisation des gardiens de service Azure Openai de l’entreprise en utilisant des touches API Azure Openai volées – que Microsoft a découvertes fin juillet 2024 – en tandem avec des logiciels créés par les défendeurs nommés de De3U. DE3U permet aux utilisateurs d’émettre des appels API pour générer des images de modèle DALL-E.
“L’application DE3U des défendeurs communique avec les ordinateurs Azure à l’aide d’API Microsoft Network sans papiers pour envoyer des demandes conçues pour imiter les demandes légitimes Azure OpenAPI API”, a indiqué la plainte. “Ces demandes sont authentifiées à l’aide de clés d’API volées et d’autres informations d’authentification. Le logiciel DE3U des défendeurs permet aux utilisateurs de contourner les contrôles technologiques qui empêchent l’altération de certains paramètres de demande API de service OpenAPI Azure OpenAPI.”
Microsoft a demandé au district oriental de Virginia Court de déclarer les actions des défendeurs comme volontaires et malveillants, d’obtenir et d’isoler l’infrastructure du site Web, et d’accorder des dommages-intérêts à Microsoft d’un montant à déterminer au procès.
Dans un e-mail, un porte-parole de Microsoft a déclaré à Informa Techtarget que dans le cadre de ses efforts continus pour minimiser les risques de la technologie de la technologie de l’IA, ses équipes continuent de travailler sur les garde-corps et les systèmes de sécurité conformément à ses principes d’IA responsables, tels que le filtrage de contenu et la surveillance opérationnelle. Le porte-parole a également partagé des liens vers divers blogs de sécurité Microsoft, y compris un article publié en avril dernier sur la façon dont la société découvre et atténue les attaques contre les garde-corps de l’IA.
Alexander Culafi est un rédacteur de nouvelles de la sécurité de l’information et animateur de podcast pour Informa Techtarget.
