Golpe LLMjacking usa IA paga por outros e causa prejuízos milionários

Criminosos encontraram uma nova forma de lucrar com a inteligência artificial (IA) por meio de um golpe chamado LLMjacking. Em vez de investir em modelos avançados, os atacantes roubam credenciais de empresas para utilizar serviços de IA pagos por outras pessoas, podendo gerar prejuízos de mais de US$ 100 mil (cerca de R$ 540 mil) em poucos minutos. O alerta foi emitido pelo Google Threat Intelligence Group (GTIG), que identificou um crescimento desse tipo de ataque nos últimos anos.

A estratégia dos grupos especializados envolve invadir ambientes corporativos para assumir o controle de serviços de IA, explorar sua capacidade computacional e transferir os custos para as organizações vítimas. Geralmente, o ataque começa com a identificação de pontos de acesso a modelos de linguagem expostos publicamente ou com o roubo de chaves de acesso às APIs (Interfaces de Programação de Aplicativos) dessas plataformas. Os criminosos também utilizam credenciais de serviços em nuvem, tokens de identidade e informações de sessão para acessar a infraestrutura das empresas.

Como funciona o LLMjacking

O objetivo principal é assumir o controle dos recursos de modelos de linguagem de grande porte (LLMs) e transformá-los em uma fonte de receita. Segundo o GTIG, isso é feito por meio de serviços de intermediação de tokens, transmissão automatizada de modelos e disponibilização de hardware com GPUs (unidades de processamento gráfico). Na prática, os invasores utilizam a capacidade computacional e as assinaturas das vítimas para executar tarefas de IA, enquanto a conta da empresa comprometida arca com as cobranças pelo processamento.

O impacto financeiro pode ser devastador e rápido. Em um caso documentado pelo Google, um agente identificado como UNC6993 obteve acesso a chaves de APIs de LLMs e tentou gerar novas credenciais e habilitar serviços adicionais em projetos de nuvem das vítimas, acumulando mais de US$ 100 mil em cobranças. Outro grupo inscreveu contas comprometidas em planos de pagamento por uso, selecionou modelos avançados e iniciou fluxos de inferência em alto volume.

Monetização e organização criminosa

Para contornar limites de utilização, os criminosos empregam a técnica de "burn and rotate", que consiste em criar e excluir continuamente contas de serviço temporárias, monitorando a interface de cobrança do provedor de nuvem para acompanhar o impacto financeiro. O uso indevido da infraestrutura corporativa não se limita à execução de tarefas próprias; em alguns casos, os invasores revendem o acesso roubado para hospedar serviços de proxy e sistemas baseados em agentes de IA.

O Google identificou um criminoso que habilitou agentes, implantou proxies reversos acessíveis publicamente e utilizou estruturas personalizadas para disponibilizar serviços compatíveis com diferentes modelos avançados. O ecossistema criminoso está se tornando mais organizado, com grupos especializados em invadir ambientes corporativos e obter credenciais, e outros focados na monetização desses acessos roubados, atuando como intermediários (LLM Mixers).

Recomendações e próximos passos

O GTIG avalia que os criminosos priorizarão cada vez mais o LLMjacking em detrimento de outras práticas de roubo de recursos computacionais. Diante desse cenário, a equipe do Google recomenda que as organizações ampliem a visibilidade sobre suas plataformas de IA e monitorem ativamente alterações em contas e serviços associados aos modelos.

Qualquer ativação não autorizada de recursos deve ser tratada como um incidente crítico de segurança. Outra orientação importante é aplicar o princípio do menor privilégio, garantindo que usuários e contas possuam apenas as permissões estritamente necessárias para suas atividades. O avanço desse tipo de ataque evidencia como a expansão da IA também cria novas oportunidades para o cibercrime, expondo empresas a despesas inesperadas.