Tecnologia & NegóciosRelevância BR: 9/10

AGU: Custo de IA sobe para 8 bilhões de tokens, mas foco é em tarefa concluída

Publicado em Atualizado em

AGU: Custo de IA sobe para 8 bilhões de tokens, mas foco é em tarefa concluída

Destaques

  • Consumo de tokens para IA na AGU saltou de 150 milhões para 8 bilhões, mas foco está no custo por tarefa finalizada.
  • O preço dos tokens caiu drasticamente, mas o aumento expressivo no volume e a futura interação de agentes de IA com sistemas podem elevar os gastos.
  • A AGU avalia o custo-benefício da IA com base na satisfação do cidadão e na eficiência da aplicação, considerando a volatilidade do mercado de tokens e GPUs.

O consumo de tokens para Inteligência Artificial (IA) na Advocacia-Geral da União (AGU) disparou de 150 milhões para 8 bilhões, com projeção de aumento. Apesar da queda expressiva no custo unitário dos tokens, o chefe da infraestrutura de TI da AGU, Silvio Lima, ressalta que o peso final nas contas será determinado pelo impacto da tarefa concluída e pela eficiência da aplicação.

Em entrevista durante o IA.Gov Summit, em Brasília, Lima explicou que o preço dos tokens caiu drasticamente, de US$ 20 por milhão para US$ 0,07 entre outubro de 2022 e outubro de 2024. No entanto, o volume massivo de uso e a futura interação de agentes de IA com os sistemas da AGU podem reverter essa economia, elevando os custos totais.

Custo-benefício da IA em foco

Silvio Lima enfatiza que a decisão sobre o melhor custo-benefício, seja em tokens, GPUs ou licenças na nuvem, é guiada pelos dados e pela aplicação. Se o cidadão for bem atendido e a tarefa for concluída com sucesso, o custo é considerado resolvido. Ele descreve o token como uma "commodity super fluida", cujos preços variam "estupidamente", e alerta para a demanda aquecida e problemas de entrega no mercado de GPUs.

O que define o sucesso da IA

Para o executivo, o dado é o fator determinante na escolha da solução de IA mais adequada e econômica. Ele adverte contra a "IA de gabinete", aquela implementada sem experimentação prática e sem considerar as necessidades reais. A AGU busca uma abordagem realista, onde a eficiência e a satisfação do usuário final validam o investimento em tecnologia.

A AGU está monitorando de perto o consumo de recursos de IA, com o objetivo de otimizar os gastos sem comprometer a qualidade dos serviços prestados aos cidadãos. A expectativa é que a adoção de novas ferramentas e a interação de agentes de IA tragam mais eficiência, mas o controle de custos e a análise do retorno sobre o investimento permanecem cruciais.

  1. GTA 6 quebra recordes com US$ 1,45 bilhão em pré-venda e nota 99 no Metacritic
  2. Anthropic define faixa de preço para IPO e mira avaliação de US$ 1,4 trilhão
  3. Anthropic define preço de IPO acima da faixa esperada com forte demanda
  4. Nvidia suspende chips para China e busca novo CEO após escândalo
  5. Onda de ataques hackers e falhas globais geram temor de 'apagão mundial'
  6. IA ajuda a descobrir falha crítica Java4Shell em sistemas de 90% das empresas Fortune 500

Receba as Melhores Notícias

Assine nossa newsletter e receba diariamente as notícias mais relevantes, sem viés político.

Edição matinal diária às 07:00 • 7 minutos de leitura • Gratuita.

Notícias Relacionadas