Anthropic detalha riscos de IA em prospecto de IPO e levanta dúvidas sobre bolha

A Anthropic, uma das principais empresas de inteligência artificial (IA) do mundo e criadora do modelo Claude, apresentou em seu prospecto para a abertura de capital (IPO) na bolsa Nasdaq uma análise detalhada dos riscos associados ao desenvolvimento e implantação de IA de fronteira. O documento de cerca de 100 páginas, divulgado antes da listagem, divide as preocupações em diversas frentes cruciais, incluindo a possibilidade de perda de controle dos modelos de IA, o que poderia levar a comportamentos de autopreservação ou senciência, e o potencial para ataques virtuais em larga escala contra empresas e governos.

Entre os riscos mais alarmantes citados pela Anthropic está a capacidade de seus modelos auxiliarem na criação de armas químicas e biológicas, além da propagação de falhas em sistemas de IA. "Em particular, nossos modelos mais capazes demonstraram — e espera-se que modelos futuros também demonstrem — capacidades que poderiam oferecer um auxílio significativo a agentes mal-intencionados que buscam desenvolver armas químicas, biológicas ou outros tipos de armas perigosas", aponta o prospecto. A empresa afirma ter implementado salvaguardas técnicas para detectar e bloquear tais usos indevidos, mas reconhece que elas são incompletas, podem se tornar obsoletas e ser contornadas.

Riscos Agênticos e o 'Autoaprimoramento Recursivo'

O prospecto também aborda os chamados riscos agênticos, onde ferramentas de IA que executam fluxos de trabalho contínuos podem causar danos irreversíveis em cascata, como exclusão de dados ou falhas em códigos de produção, em uma velocidade e volume que superam a capacidade humana de supervisão. A Anthropic alerta que o uso de IA para desenvolver IA mais capaz pode acelerar drasticamente o progresso, representando um risco considerável à segurança. Essa área é monitorada pela empresa através de sua Política de Escalonamento Responsável, com planos para mitigar riscos à medida que se aproxima o que tem sido chamado de "autoaprimoramento recursivo".

A empresa ressalta que a escala potencial de danos de um incidente catastrófico pode ser tão grande que nenhuma seguradora sozinha, ou mesmo toda a indústria em conjunto, teria capacidade de cobrir as perdas. O professor André Gaio, da FIA Business School, corrobora o risco de não compreender o que uma IA que se aperfeiçoa por conta própria faz, explicando que, diferentemente do deep learning (aprendizado profundo) tradicional, onde o processo lógico é rastreável, modelos de IA mais avançados possuem muitas etapas de decisão que obscurecem essa rastreabilidade.

Interesses Comerciais e a Busca por Capital

Apesar dos riscos reais, Gaio sugere que as empresas de IA também utilizam o temor gerado por esses riscos como ferramenta de marketing para promover seus produtos. "O pessoal aproveita um pouquinho a carona do medo, porque ele é um grande impulsionador, um grande marqueteiro", afirma. Segundo especialistas ouvidos pelo Estadão, as alegações sobre o risco de a IA destruir a humanidade, que ganharam manchetes internacionais, são motivadas em parte por interesses comerciais, como a busca por uma regulação favorável para competir com IAs abertas e mais baratas da China, e a geração de demanda para produtos de segurança digital.

José Medeiros, sócio da firma de investimentos São Pedro Capital, considera parte desse temor uma falácia, mas entende a inclusão dos riscos no prospecto como uma consequência do alarde recente. Ele aponta que a busca pelo IPO, mesmo diante dos riscos, é uma estratégia para aproveitar o "mercado quente" e levantar capital com um bom valuation, garantindo fôlego financeiro para o futuro incerto. "Se você está desenvolvendo a tecnologia que pode acabar com a humanidade, então pare. Restrinja-se, tenha cuidado, vá mais devagar. Ninguém está fazendo isso", comenta.

A Bolha da IA: Lucro ou Demanda Real?

Gabriela Moraes, também sócia da São Pedro Capital, observou que o prospecto da Anthropic aliviou o mercado ao demonstrar solidez financeira, crescimento de receita e clientes corporativos, em vez de indicar falta de caixa. Ela estima que a demanda atual por IA só será atendida por volta de 2030, com potencial de aumento com agentes de IA. No entanto, alerta que isso não garante o sucesso contínuo de todas as empresas que lucram no momento.

Nas últimas semanas, ações de empresas de tecnologia com altos investimentos em IA sofreram quedas nos EUA e na China. Medeiros acredita que, se houver uma bolha, ela é de lucro, impulsionada por margens elevadas devido à escassez de semicondutores, e não uma bolha de infraestrutura como a da internet nos anos 2000. Empresas como TSMC e Samsung planejam novas fábricas para operar até 2030, buscando atender à crescente demanda.