Anthropic lança tecnologia para verificar autenticidade de modelos de IA

A Anthropic anunciou o desenvolvimento do FlashProve, uma nova tecnologia projetada para verificar se uma resposta específica foi gerada pelo modelo de inteligência artificial (IA) que uma empresa afirma estar utilizando. O sistema emprega criptografia para criar um comprovante matemático que atesta a identidade do modelo responsável por determinada saída, oferecendo aos usuários uma forma de confirmar a autenticidade da IA com a qual interagem.

A proposta do FlashProve é combater práticas enganosas, como a substituição secreta de modelos de IA por alternativas mais baratas ou menos avançadas, ou a apresentação de resultados de desempenho que não condizem com a tecnologia realmente empregada. Segundo a Anthropic, o mecanismo visa dar mais transparência e segurança nas interações com sistemas de IA.

Como funciona o FlashProve?

O sistema se baseia no conceito de “inferência comprovável”, que gera uma prova criptográfica de que uma resposta específica provém de um modelo de IA determinado. Essa abordagem é comparada às assinaturas digitais usadas para autenticar e-mails, mas, neste caso, a verificação se destina a identificar qual IA produziu um determinado conteúdo.

Para que o sistema funcione, os desenvolvedores de modelos de IA precisam publicar uma espécie de “impressão digital” de cada sistema. Essa identificação pode, então, ser comparada com as respostas geradas pela IA e verificada através de mecanismos criptográficos. Um ponto crucial é que essas impressões digitais não revelam os pesos internos do modelo, que são informações comerciais sensíveis mantidas em sigilo por empresas como a Anthropic e a OpenAI.

A tecnologia foi desenvolvida para ser leve, permitindo que a verificação seja realizada diretamente em um dispositivo local, sem a necessidade de processamento em nuvem.

Prevenindo a troca de modelos e ampliando aplicações

Um dos principais problemas que o FlashProve busca solucionar é a possibilidade de um fornecedor anunciar o acesso a uma IA avançada, mas utilizar um modelo inferior ou mais barato em sua operação para reduzir custos. O mecanismo também visa dificultar situações em que empresas manipulam resultados de desempenho ao empregar modelos diferentes daqueles que declaram ter utilizado.

As aplicações do FlashProve se estendem para além dos serviços diretos de empresas de IA. Por exemplo, um desenvolvedor que afirma ter usado um modelo avançado de cibersegurança para identificar vulnerabilidades em uma biblioteca de software poderia ter seu uso verificado. Da mesma forma, uma empresa que declara ter obtido aprovação para seu plano de negócios por meio de uma IA especializada poderia ter essa afirmação comprovada criptograficamente.

Projeto de pesquisa com código aberto

Apesar da apresentação pública, o FlashProve ainda é considerado um projeto de pesquisa pela Anthropic. A empresa disponibilizou uma especificação técnica detalhada e partes do código funcional sob uma licença de código aberto. O objetivo é permitir que a comunidade de pesquisa e desenvolvimento possa examinar a proposta, utilizar seus componentes e contribuir para seu aprimoramento.

A Anthropic não anunciou planos concretos para a implementação do FlashProve em seus próprios serviços ou em outras plataformas de IA. A publicação representa um avanço intermediário, com a intenção de fomentar a colaboração e o desenvolvimento contínuo da tecnologia.