Pesquisa da Anthropic revela falhas em agentes de IA trabalhando em conjunto
Publicado em · Atualizado em

Destaques
- Estudo com 77 cenários aponta que agentes de IA falham em colaboração, mesmo com comunicação.
- Problemas incluem inconsistências de estado e mensagens pendentes, afetando a conclusão de tarefas.
- A pesquisa sugere que a solução para falhas de colaboração em IA depende do contexto específico, não apenas de coordenação centralizada.
Uma pesquisa recente da Anthropic revelou que agentes de inteligência artificial (IA) enfrentam dificuldades significativas ao trabalhar em conjunto sobre recursos compartilhados, mesmo quando se comunicam. O estudo testou 77 cenários em quatro ambientes simulados e constatou que o desempenho coletivo foi inferior ao de uma configuração com um único coordenador em todos os casos. Para dois modelos Claude, a diferença de desempenho variou entre 10 e 45 pontos percentuais.
Um dos problemas identificados foi a inconsistência na recepção de informações cruciais. Em uma simulação, uma solicitação específica era enviada a um agente responsável por finalizar um pedido, mas a informação estava efetivamente no contexto do agente em apenas 47% a 67% dos casos no momento da decisão, apesar de ter sido enviada. Isso demonstra que a comunicação entre agentes não garante a colaboração eficaz.
Desafios de sistemas distribuídos em IA
O cenário é comparado a problemas conhecidos em engenharia de sistemas distribuídos, como concorrência, condições de corrida e inconsistências de estado. A aplicação desses conceitos a agentes de IA, que tomam decisões e executam ações sobre os mesmos recursos, pode levar a situações como um agente comercial alterando condições de pagamento enquanto outro prepara uma cobrança com dados desatualizados, resultando em informações incompatíveis na operação.
A pesquisa alerta para o risco de confundir agentes individualmente competentes com uma arquitetura de colaboração bem resolvida. A dificuldade reside em garantir que, quando múltiplos agentes atuam sobre a mesma operação, a qualidade de cada execução individual seja suficiente para um bom resultado conjunto.
Soluções e próximos passos para a colaboração de IA
A pesquisa trouxe resultados distintos para diferentes tipos de falhas. Em cenários onde os agentes disputavam orçamento computacional, estabelecer uma liderança para coordenar prioridades melhorou o desempenho. No entanto, essa solução não foi eficaz em simulações de pedidos compartilhados.
Para os pedidos compartilhados, uma trava que impedia a conclusão da operação enquanto houvesse mensagens pendentes de leitura foi a solução mais eficaz. Essa medida recuperou entre 62% e 73% das tentativas que haviam falhado, dependendo do modelo. Isso sugere que a falha pode ser a falta de coordenação de prioridades ou a ausência de um mecanismo técnico que garanta a ordem correta das ações.
A Anthropic ressalta que centralizar tudo nem sempre é o melhor caminho, pois os experimentos tinham condições específicas. Em tarefas independentes, a execução paralela pode trazer ganhos importantes. A questão central é entender onde termina a independência dos agentes e como validar o comportamento do conjunto quando recursos e decisões são compartilhados.
A validação de sistemas com múltiplos agentes de IA precisa considerar o comportamento do conjunto, incluindo mensagens fora de ordem, atualizações simultâneas e conflitos de estado. A Impulso, empresa citada no texto, afirma que esse cuidado orienta o desenvolvimento de suas soluções com agentes de IA, focando no processo, integrações, regras de negócio e limites de cada execução.
Matérias originais
- Seus agentes de IA estão colaborando ou atrapalhando uns aos outros? · tiinside.com.br



