AGU: Custo de IA sobe para 8 bilhões de tokens, mas foco é em tarefa concluída
Publicado em · Atualizado em

Destaques
- Consumo de tokens para IA na AGU saltou de 150 milhões para 8 bilhões, mas foco está no custo por tarefa finalizada.
- O preço dos tokens caiu drasticamente, mas o aumento expressivo no volume e a futura interação de agentes de IA com sistemas podem elevar os gastos.
- A AGU avalia o custo-benefício da IA com base na satisfação do cidadão e na eficiência da aplicação, considerando a volatilidade do mercado de tokens e GPUs.
O consumo de tokens para Inteligência Artificial (IA) na Advocacia-Geral da União (AGU) disparou de 150 milhões para 8 bilhões, com projeção de aumento. Apesar da queda expressiva no custo unitário dos tokens, o chefe da infraestrutura de TI da AGU, Silvio Lima, ressalta que o peso final nas contas será determinado pelo impacto da tarefa concluída e pela eficiência da aplicação.
Em entrevista durante o IA.Gov Summit, em Brasília, Lima explicou que o preço dos tokens caiu drasticamente, de US$ 20 por milhão para US$ 0,07 entre outubro de 2022 e outubro de 2024. No entanto, o volume massivo de uso e a futura interação de agentes de IA com os sistemas da AGU podem reverter essa economia, elevando os custos totais.
Custo-benefício da IA em foco
Silvio Lima enfatiza que a decisão sobre o melhor custo-benefício, seja em tokens, GPUs ou licenças na nuvem, é guiada pelos dados e pela aplicação. Se o cidadão for bem atendido e a tarefa for concluída com sucesso, o custo é considerado resolvido. Ele descreve o token como uma "commodity super fluida", cujos preços variam "estupidamente", e alerta para a demanda aquecida e problemas de entrega no mercado de GPUs.
O que define o sucesso da IA
Para o executivo, o dado é o fator determinante na escolha da solução de IA mais adequada e econômica. Ele adverte contra a "IA de gabinete", aquela implementada sem experimentação prática e sem considerar as necessidades reais. A AGU busca uma abordagem realista, onde a eficiência e a satisfação do usuário final validam o investimento em tecnologia.
A AGU está monitorando de perto o consumo de recursos de IA, com o objetivo de otimizar os gastos sem comprometer a qualidade dos serviços prestados aos cidadãos. A expectativa é que a adoção de novas ferramentas e a interação de agentes de IA tragam mais eficiência, mas o controle de custos e a análise do retorno sobre o investimento permanecem cruciais.
Matérias originais
- AGU salta de 150 milhões para 8 bilhões de tokens em uso para treinamento de servidores em IA · convergenciadigital.com.br


