Des cybercriminels volent des clés d’API d’IA et des identifiants cloud pour exécuter des charges de travail sur les comptes d’entreprises, ce qui peut générer des factures dépassant 100 000 dollars en quelques minutes. Le Threat Intelligence Group de Google (GTIG) affirme que cette pratique, connue sous le nom de LLMjacking, s’est développée au cours des deux dernières années et évolue vers un écosystème spécialisé de cybercriminalité.

Les attaquants commencent généralement par cibler des points de terminaison de modèles de langage exposés ou par obtenir des clés d’API valides. Ils peuvent aussi utiliser des identifiants cloud volés, tels que des jetons d’identité, des clés de compte de service, des jetons d’accès personnels GitHub ou des jetons de session actifs, pour prendre pied dans l’infrastructure d’une organisation. À partir de là, ils cherchent à étendre leurs privilèges et à maintenir leur accès.

Le GTIG décrit le LLMjacking comme la monétisation et l’utilisation non autorisées de modèles de fondation. Les attaquants peuvent acheminer les requêtes via des comptes volés, diffuser automatiquement les résultats des modèles ou provisionner du matériel GPU. Pour les victimes, cela signifie que des criminels utilisent l’accès de l’entreprise à l’IA tandis que celle-ci en paie la facture.

Les coûts peuvent s’accumuler rapidement. Google a indiqué qu’un groupe suivi sous le nom UNC6993 avait tenté de créer des clés d’API supplémentaires et d’activer des services dans les projets cloud de victimes, entraînant plus de 100 000 dollars de frais. Dans un autre cas, un attaquant a inscrit des comptes de victimes à des forfaits à l’utilisation, sélectionné des modèles haut de gamme et lancé des flux d’inférence à grand volume. Le groupe créait puis supprimait à plusieurs reprises des comptes de service de courte durée afin de contourner les limites de débit tout en surveillant les frais générés.

Certains attaquants utilisent également les accès compromis pour créer des services proxy et exécuter des charges de travail reposant sur des agents. Lors d’une opération, un acteur a mis en place des proxys inverses accessibles au public et un logiciel personnalisé en Node.js afin de proposer l’accès à plusieurs modèles de pointe sous le nom de D1337-KAIROS. L’acteur a également déployé une porte dérobée conteneurisée qui interrogeait un LLM pour interpréter des instructions et exécuter des commandes localement.

Le GTIG affirme que l’écosystème se spécialise de plus en plus : certains groupes obtiennent des accès aux organisations, tandis que d’autres se chargent de les revendre. Ces opérateurs en aval, qualifiés de « LLM Mixers », utilisent des passerelles pour acheminer, combiner et vendre des accès non autorisés aux modèles. Google a observé deux groupes opérationnels coordonnant leurs efforts pour compromettre et monétiser des infrastructures d’IA d’entreprise, en utilisant des systèmes relais afin de regrouper les identifiants volés, de suivre l’utilisation et de masquer l’origine des requêtes.

Google s’attend à ce que les criminels s’attaquent de plus en plus au LLMjacking. L’entreprise conseille aux organisations d’améliorer la visibilité sur leurs plateformes d’IA, de surveiller les modifications apportées aux comptes et aux services, de traiter les activations non autorisées comme des incidents de sécurité critiques et de limiter les autorisations aux seuls utilisateurs et comptes qui en ont besoin.

Sources: TechRadar.