Cibercriminosos estão roubando chaves de API de IA e credenciais de nuvem para executar cargas de trabalho nas contas de empresas, podendo gerar faturas superiores a US$ 100 mil em minutos. O Grupo de Inteligência contra Ameaças do Google (GTIG) afirma que essa prática, conhecida como LLMjacking, cresceu nos últimos dois anos e está se desenvolvendo em um ecossistema especializado de cibercrime.
Os atacantes normalmente começam visando endpoints expostos de modelos de linguagem ou obtendo chaves de API válidas. Também podem usar credenciais de nuvem roubadas — como tokens de identidade, chaves de contas de serviço, tokens de acesso pessoal do GitHub ou tokens de sessão ativos — para conseguir uma posição inicial na infraestrutura de uma organização. A partir daí, tentam ampliar seus privilégios e manter o acesso.
O GTIG descreve o LLMjacking como a monetização e o uso não autorizados de modelos fundamentais. Os atacantes podem encaminhar solicitações por meio de contas roubadas, transmitir automaticamente as respostas dos modelos ou provisionar hardware de GPU. Para as vítimas, isso significa que os criminosos usam o acesso de IA da empresa enquanto ela paga a conta.
Os custos podem se acumular rapidamente. O Google informou que um grupo rastreado como UNC6993 tentou criar chaves de API adicionais e ativar serviços nos projetos de nuvem das vítimas, resultando em cobranças superiores a US$ 100 mil. Em outro caso, um atacante inscreveu contas de vítimas em planos de pagamento conforme o uso, selecionou modelos premium e iniciou fluxos de inferência de alto volume. O grupo criou e excluiu repetidamente contas de serviço de curta duração para contornar os limites de taxa, enquanto monitorava as cobranças resultantes.
Alguns atacantes também usam o acesso comprometido para criar serviços de proxy e executar cargas de trabalho baseadas em agentes. Em uma operação, um agente configurou proxies reversos acessíveis publicamente e um software personalizado em Node.js para oferecer acesso a vários modelos de ponta sob o nome D1337-KAIROS. O agente também implantou uma porta dos fundos em contêiner, que consultava um LLM para interpretar instruções e executar comandos localmente.
O GTIG afirma que o ecossistema está se tornando mais especializado: alguns grupos obtêm acesso às organizações, enquanto outros cuidam da revenda desse acesso. Esses operadores subsequentes, descritos como “LLM Mixers”, usam gateways para encaminhar, combinar e vender acesso não autorizado a modelos. O Google observou dois agrupamentos operacionais coordenando-se para comprometer e monetizar a infraestrutura de IA de empresas, usando sistemas de retransmissão para reunir credenciais roubadas, rastrear o uso e ocultar a origem das solicitações.
O Google espera que os criminosos busquem cada vez mais o LLMjacking. A empresa recomenda que as organizações ampliem a visibilidade sobre suas plataformas de IA, monitorem alterações em contas e serviços, tratem ativações não autorizadas como eventos críticos de segurança e restrinjam as permissões apenas aos usuários e às contas que delas precisam.
Fontes: TechRadar.