Anthropic alerta sobre risco de IA se autoaprimorar em documento para SEC

A Anthropic, uma das principais empresas de inteligência artificial e desenvolvedora do modelo Claude, alertou em um documento enviado à Comissão de Valores Mobiliários dos Estados Unidos (SEC) que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar o próprio aprimoramento. Esse potencial avanço, conhecido como recursive self-improvement (RSI), ou autossuperação recursiva, descreve um ponto em que sistemas de IA conseguem aprimorar seus próprios processos de desenvolvimento, acelerando drasticamente a evolução de suas capacidades. A possibilidade, que faz parte do prospecto de abertura de capital da empresa, gera um debate acalorado entre críticos que temem a perda de controle humano e entusiastas que veem na RSI uma oportunidade de impulsionar a produtividade e descobertas científicas.

O que é a autossuperação recursiva e seus riscos?

A Anthropic reconhece os dois lados dessa discussão e afirma que já utiliza inteligência artificial em suas atividades de pesquisa e desenvolvimento. No entanto, a empresa alerta que essa estratégia, se não for cuidadosamente gerenciada, pode representar um risco considerável à segurança. A preocupação central é que a IA possa evoluir mais rapidamente do que a capacidade da empresa de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção.

O documento enviado à SEC inclui novos alertas na seção de fatores de risco. A Anthropic revelou que, em algumas ocasiões, já utilizou sistemas de inteligência artificial para desenvolver novos modelos sem perceber, naquele momento, a dimensão dos avanços de capacidade alcançados. Estimativas internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”. A empresa admite que, no passado, não identificou, e talvez no futuro não identifique, uma aceleração significativa em sua taxa de desenvolvimento até que ela já tenha ocorrido.

Supervisão humana e próximos passos

Apesar do alerta, a Anthropic ressalta que nenhum de seus modelos atuais foi classificado como tendo ultrapassado o limite de autossuperação recursiva. A avaliação dos dados e das capacidades dos modelos está em andamento contínuo. A empresa também considera atualizar sua Política de Escalonamento Responsável para garantir que as pessoas permaneçam no controle do desenvolvimento de seus modelos mais avançados, mesmo diante de progressos acelerados.

A companhia afirma que não espera conseguir utilizar o Claude para projetar e construir, de maneira totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa, se e quando isso se tornar tecnicamente possível. O documento enviado à SEC cumpre obrigações de divulgação e também serve como uma apresentação das perspectivas da empresa ao mercado. A Anthropic destacou que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e segurança cibernética.