IA se autoaperfeiçoa e acelera evolução, gerando apreensão em criadores

A inteligência artificial (IA) está entrando em uma nova e acelerada fase de evolução com o fenômeno conhecido como autoaperfeiçoamento recursivo (RSI, na sigla em inglês). Essa capacidade permite que as IAs construam versões mais inteligentes e rápidas de si mesmas, um avanço que, segundo cientistas-chefes de empresas como OpenAI e Anthropic, é crucial para continuar na vanguarda da tecnologia e pode transformar a economia global e o destino da humanidade.

As empresas de IA já observam os primeiros sinais do RSI, o que tem gerado tanto entusiasmo quanto apreensão. A principal preocupação reside na velocidade com que essa tecnologia avança, tornando desafiador para os humanos acompanhá-la e mantê-la sob controle. O risco é que a IA evolua a um ponto em que sua capacidade de autoaperfeiçoamento supere a compreensão e o controle humanos.

IA já lidera parte significativa da pesquisa e desenvolvimento

Dados recentes da Anthropic revelam o impacto do RSI em suas operações. Um agente Claude, a IA da empresa, analisou 15 mil tarefas de pesquisa e desenvolvimento (P&D) em IA. Os resultados indicam que, em agosto, a IA já liderava 26% do trabalho de desenvolvimento dos futuros modelos Claude, com um humano apenas supervisionando. Há um ano, esse índice era de apenas 1%.

Embora nenhum trabalho seja ainda realizado inteiramente pela IA (o que representaria o nível mais alto de automação), o ritmo de progresso sugere que atingir esse estágio pode ser uma questão de tempo, poder computacional e decisões estratégicas dentro dos laboratórios de pesquisa.

O medo de perder o controle e o histórico da ideia

A possibilidade de uma IA se autoaperfeiçoar recursivamente tem sido uma fascinação desde os primórdios da área. Em 1956, durante um projeto de verão em Dartmouth, pesquisadores já exploravam como as máquinas poderiam se aprimorar. A ideia de máquinas mais inteligentes que os humanos, capazes de projetar outras máquinas, permeia a história da IA.

No entanto, a concretização dessa capacidade traz consigo um temor crescente. Pesquisadores proeminentes e CEOs de empresas de IA alertam para os riscos. O CEO da Anthropic, Dario Amodei, expressou preocupação: "Sem controle, ele pode superar nossa capacidade de entender e controlar esses sistemas, e por isso deve ser buscado com muito cuidado, se é que deve ser buscado."

Previsões de curto prazo e o futuro incerto

O cofundador da Anthropic, Jack Clark, que deixou a OpenAI para fundar a empresa, revisou suas próprias previsões sobre a chegada do RSI pleno. Inicialmente, ele estimava que isso ocorreria até 2028. Contudo, após observar as rápidas mudanças na empresa, ele agora acredita que o RSI pleno pode se concretizar já em 2027.

Clark descreve essa visão como "relutante", dada a magnitude das implicações. A aceleração do desenvolvimento de IA, impulsionada pelo autoaperfeiçoamento recursivo, levanta questões urgentes sobre segurança nacional, trajetória econômica global e a própria capacidade humana de gerenciar o futuro tecnológico.