I criminali informatici rubano chiavi API per l’AI e credenziali cloud per eseguire carichi di lavoro sugli account delle aziende, generando potenzialmente fatture superiori a 100.000 dollari in pochi minuti. Il Threat Intelligence Group di Google (GTIG) afferma che questa pratica, nota come LLMjacking, è cresciuta negli ultimi due anni circa e si sta evolvendo in un ecosistema specializzato di criminalità informatica.
In genere, gli aggressori iniziano prendendo di mira endpoint di modelli linguistici esposti o ottenendo chiavi API valide. Possono anche usare credenziali cloud rubate, come token di identità, chiavi di account di servizio, token di accesso personali GitHub o token di sessione attivi, per ottenere un primo punto d’appoggio nell’infrastruttura di un’organizzazione. Da lì, cercano di ampliare i propri privilegi e mantenere l’accesso.
GTIG descrive l’LLMjacking come la monetizzazione e l’uso non autorizzati di modelli fondazionali. Gli aggressori possono inoltrare le richieste attraverso account rubati, trasmettere automaticamente in streaming gli output dei modelli o predisporre hardware GPU. Per le vittime, questo significa che i criminali usano l’accesso AI dell’azienda mentre è l’azienda a pagare il conto.
I costi possono accumularsi rapidamente. Google ha riferito che un gruppo monitorato come UNC6993 ha tentato di creare ulteriori chiavi API e attivare servizi nei progetti cloud delle vittime, causando addebiti superiori a 100.000 dollari. In un altro caso, un aggressore ha iscritto gli account delle vittime a piani a consumo, selezionato modelli premium e avviato flussi di inferenza ad alto volume. Il gruppo ha creato ed eliminato ripetutamente account di servizio di breve durata per aggirare i limiti di frequenza, monitorando al contempo gli addebiti risultanti.
Alcuni aggressori sfruttano inoltre gli accessi compromessi per creare servizi proxy ed eseguire carichi di lavoro basati su agenti. In un’operazione, un attore ha predisposto proxy inversi accessibili pubblicamente e software personalizzato in Node.js per offrire accesso a diversi modelli di frontiera con il nome D1337-KAIROS. L’attore ha inoltre installato una backdoor containerizzata che interrogava un LLM per interpretare istruzioni ed eseguire comandi in locale.
GTIG afferma che l’ecosistema si sta specializzando sempre più: alcuni gruppi ottengono accesso alle organizzazioni, mentre altri si occupano della rivendita di tale accesso. Questi operatori a valle, descritti come “LLM Mixer”, usano gateway per instradare, combinare e vendere l’accesso non autorizzato ai modelli. Google ha osservato due gruppi operativi coordinarsi per compromettere e monetizzare le infrastrutture AI aziendali, usando sistemi di inoltro per mettere in comune le credenziali rubate, monitorare l’utilizzo e nascondere l’origine delle richieste.
Google prevede che i criminali prenderanno sempre più di mira l’LLMjacking. Consiglia alle organizzazioni di migliorare la visibilità sulle proprie piattaforme AI, monitorare le modifiche agli account e ai servizi, trattare le attivazioni non autorizzate come eventi di sicurezza critici e limitare le autorizzazioni ai soli utenti e account che ne hanno bisogno.
Fonti: TechRadar.