Anthropic firma parcerias para avaliação independente de riscos de IA

A Anthropic anunciou nesta quinta-feira (15) a formação de parcerias com as organizações sem fins lucrativos METR (Model Evaluation and Threat Research) e SecureBio para avaliar os riscos e as práticas de segurança de seus modelos de inteligência artificial (IA). A empresa também está em negociações com outras entidades, como a Hugging Face, para expandir seu programa de avaliadores independentes embarcados.

Esta iniciativa surge como um desdobramento do compromisso assumido pela Anthropic após a publicação de uma proposta de desaceleração no ritmo de desenvolvimento de modelos de IA por seu diretor-presidente, Dario Amodei, no mês anterior. A Anthropic já havia selecionado a Accenture como seu primeiro parceiro externo dias após a proposta.

Três níveis de acesso para avaliadores

Para organizar a colaboração com entidades externas, a Anthropic estabeleceu um sistema com três categorias de acesso. Os avaliadores do primeiro nível realizam investigações de risco com escopo mais limitado. Já os do segundo nível possuem a prerrogativa de publicar relatórios sem a necessidade de aprovação prévia da Anthropic. Por fim, os avaliadores do terceiro nível usufruem de um acesso equivalente ao dos funcionários internos da empresa.

A organização METR se enquadra no terceiro nível, com seis de seus profissionais integrados à Anthropic. Esses especialistas têm acesso a equipamentos, escritórios e ferramentas da empresa em um patamar similar ao das equipes internas de avaliação de risco. Sua função será analisar os níveis de risco, incidentes e práticas da companhia, com liberdade para publicar suas conclusões. É importante notar que a Anthropic não financia o trabalho da METR.

A SecureBio, por sua vez, está focada na revisão da seção sobre armas químicas e biológicas do relatório de risco publicado pela Anthropic em agosto de 2026. A organização tem a possibilidade de expandir sua participação em projetos futuros, com maior acesso e direito de publicação.

Contexto e pressão do setor por segurança

A relevância de avaliadores independentes como a METR cresceu significativamente na indústria de IA, especialmente após a proposta de Amodei e o aumento das preocupações sobre a capacidade das empresas de IA de proteger seus modelos. Anteriormente, essas organizações ocupavam um espaço mais discreto.

A pressão por maior segurança e auditoria externa também vem de esferas governamentais. O presidente dos Estados Unidos, Donald Trump, incentivou as empresas do setor a se associarem a um auditor ou avaliador externo independente, por meio de um acordo voluntário apresentado no final de setembro de 2026. Diversos executivos de grandes empresas como Google, Meta, OpenAI, SpaceX e Nvidia assinaram este acordo.

“Estamos incorporando avaliadores voluntariamente e acreditamos que todas as empresas de IA de fronteira deveriam fazer o mesmo”, declarou a Anthropic, reforçando seu compromisso com a transparência e segurança.

Financiamento e próximos passos

A Anthropic reconheceu a ausência de padrões consolidados para o financiamento de avaliações independentes. A empresa afirmou que, a longo prazo, o financiamento ideal viria de fontes coletivas ou governamentais, conforme defendido em seu Arcabouço de IA Avançada em junho. Contudo, diante da inexistência dessas fontes atualmente, a Anthropic planeja trabalhar com diferentes avaliadores sob variados arranjos de financiamento.

A situação da parceria com a Accenture ainda está em definição quanto ao nível de acesso. A Hugging Face, conhecida por sua plataforma de desenvolvimento de código aberto e recentemente adquirida pela Nvidia por cerca de US$ 13 bilhões, também está em negociações, mas o nível de acesso a ser concedido ainda não foi definido.