Un groupe de hackers, se faisant passer pour des défenseurs de l'art traditionnel, a lancé une campagne agressive contre les outils d'intelligence artificielle génératrice d'œuvres d'art. Leur revendication est claire : « Les œuvres d’art générées par l’IA sont préjudiciables à l’industrie d'art et devraient être découragées. »
Pour mettre en œuvre cette idéologie, ils ont recours à des moyens illégaux et malveillants. Ils ciblent spécifiquement les utilisateurs de logiciels de génération d’images IA comme Stable Diffusion, en diffusant une extension malveillante. Cette extension, une fois installée, permet aux hackers de pirater les ordinateurs des utilisateurs, compromettant ainsi leur sécurité et leur vie privée.
Les hackers déploient ces outils virolés principalement sur GitHub, une plateforme populaire pour le partage de logiciels open-source. En se faisant passer pour des développeurs légitimes, ils trompent les utilisateurs en les incitant à télécharger et installer leurs extensions contaminées. Cette attaque soulève de sérieuses préoccupations non seulement pour les amateurs et professionnels de l'art numérique, mais aussi pour la communauté technologique en général, car elle démontre la vulnérabilité des plateformes de distribution de logiciels face aux cyberattaques sophistiquées.
ComfyUI est une interface utilisateur graphique extrêmement populaire pour Stable Diffusion qui est partagée librement sur GitHub, permettant aux utilisateurs de générer plus facilement des images et de modifier leurs modèles de génération d'images. ComfyUI_LLMVISION, l'extension qui a été compromise pour pirater les utilisateurs, est une extension ComfyUI qui a permis aux utilisateurs d'intégrer de grands modèles de langage GPT-4 et Claude 3 dans la même interface.
La page GitHub ComfyUI_LLMVISION est actuellement en panne, mais une archive Wayback Machine du 9 juin indique qu'elle a été « COMPROMISE PAR NULLBULGE GROUP ».
"Peut-être consultez-nous et réfléchissez deux fois avant de publier des outils d'IA sur un compte aussi faiblement sécurisé", indique la même page GitHub archivée.
La page indiquait qu'il s'agissait d'une extension légitime jusqu'à ce qu'elle soit compromise, et une archive dans le repo Git du 25 mai montre qu'elle était quelque peu active, avec 42 étoiles, quatre forks et 12 commits. Sur son site Web, les pirates affirment qu'ils avaient le contrôle de l'extension pendant « plusieurs mois » et qu'ils avaient pris le contrôle de ComfyUI_LLMVISION avant même que son créateur ne la publie, indiquant qu'elle pouvait contenir du code malveillant tout au long de sa présence sur Github. .
GitHub n'a pas immédiatement répondu à une demande de commentaire.
Sur le subreddit ComfyUI, un utilisateur a lancé dimanche un fil de discussion sur le piratage et a affirmé avoir « été personnellement affecté par cela ».
Environ une semaine après avoir installé ce package, j'ai reçu une tonne de notifications de connexion malveillantes sur un certain nombre de services, je suis donc absolument sûr qu'ils utilisent activement ces données.
Sur son site Web, Nullbulge a également partagé une liste de ce qu'il prétend être les informations de connexion de différents comptes pour des centaines d'utilisateurs récoltés à partir de l'extension malveillante.
vpnMentor , une société VPN qui publie des recherches sur la sécurité pour promouvoir son produit, a analysé l'extension malveillante et affirme qu'elle est capable de voler des portefeuilles cryptographiques, de capturer l'écran de l'utilisateur, d'exposer les informations sur l'appareil et les adresses IP et de voler des fichiers contenant certains mots-clés ou extensions.
Le propre site Web de NullBulge est également en panne pour le moment, mais ses archives incluent une section « À propos de nous » qui indique qu'ils « sont un collectif d'individus qui croient en l'importance de protéger les droits des artistes et d'assurer une juste rémunération pour leur travail ».
Une autre section sur la première page du site est intitulée « Vous m'avez piraté/nous/mon site Web ! Pourquoi?"
Nous sommes désolés d'avoir dû vous faire cela, mais nous ne le faisons que si vous avez commis l'un de nos péchés.
Vol d'art
Crypto Promotion
Œuvres d'art générées par l'IA
Vol sur Patreon ou d'autres plateformes qui soutiennent les artistes
Toute autre forme de vol auprès des artistes
Nous ne savons pas si les hackers dans cette affaire adoptent réellement une position idéologique anti-IA, ou s'ils le disent simplement et piratent qui ils peuvent, ou même se moquent de cette cause.
« Nullbulge » fait référence à un renflement lisse dans la zone génitale de certains personnages à fourrure, dont l'un figure en haut du site Web du groupe de piratage.
Quelle que soit leur véritable motivation, l'attaque ComfyUI_LLMVISION souligne une fois de plus que les logiciels téléchargeables gratuitement depuis GitHub et gérés par des individus ou de petits groupes de développeurs de logiciels open source peuvent constituer un risque de sécurité énorme . En mars, nous avons vu comment un acteur malveillant avait réussi à injecter du code malveillant dans un utilitaire de compression populaire utilisé dans de nombreuses distributions majeures de Linux.
par Emanuel Maiberg et Aghilas AZZOUG