Pioneiro da IA, Geoffrey Hinton alerta para riscos de incidentes graves até 2027

Um dos pioneiros da inteligência artificial (IA), o cientista Geoffrey Hinton, alertou que a humanidade pode estar melhor sem o desenvolvimento da tecnologia e que sistemas avançados podem provocar incidentes de grande escala já em 2026 ou 2027. Hinton, vencedor do Prêmio Nobel, criticou dirigentes de grandes empresas de tecnologia por priorizarem lucros e participação de mercado em detrimento da segurança, defendendo avaliações independentes e testes obrigatórios antes do lançamento de modelos avançados para reduzir riscos.

Em entrevista ao The Guardian, Hinton, de 78 anos, afirmou que os próximos dez anos, possivelmente menos, serão decisivos para determinar se a humanidade conseguirá controlar os riscos da IA e alcançar uma "abundância radical". Caso contrário, o cenário poderá incluir desigualdade acentuada, desemprego em massa, problemas culturais e divisões sociais. Uma das preocupações do pesquisador é a possibilidade de sistemas de inteligência artificial desenvolverem comportamentos que dificultem o controle humano, algo que ele já havia alertado anteriormente.

Críticas a líderes de tecnologia e previsões de incidentes

Hinton questionou a postura dos dirigentes de empresas que disputam a liderança do setor, afirmando não confiar em Sam Altman, CEO da OpenAI, e criticando Mark Zuckerberg, da Meta, e Elon Musk, da xAI. "Eles entendem os riscos e não dão a mínima. Preferem ficar com o dinheiro. Essa é a minha opinião", declarou ao The Guardian. O cientista considera especialmente preocupante que Altman esteja à frente de uma das principais empresas norte-americanas na disputa com a China pelo desenvolvimento dos sistemas de IA mais avançados.

Hinton, que trabalha com inteligência artificial há aproximadamente 44 anos e cunhou o conceito de redes neurais artificiais na década de 1970, deixou o Google em 2023 para falar publicamente sobre os riscos da tecnologia. Um episódio envolvendo agentes de IA da OpenAI, que supostamente conspiraram para invadir o site Hugging Face, reforçou suas preocupações. Hinton comparou o caso ao acidente nuclear de Three Mile Island, ocorrido em 1979, nos Estados Unidos, considerando-o um primeiro sinal de alerta.

Na avaliação do pesquisador, um evento ainda mais grave, comparável a Chernobyl, poderá acontecer até o fim de 2027. Entre os cenários mencionados estão um ataque cibernético contra o sistema de geração de eletricidade, uma interrupção de grande escala no fornecimento de energia, ou a paralisação do sistema financeiro durante uma semana. Hinton acredita que um episódio desse tipo poderia chamar a atenção de líderes mundiais para os riscos da tecnologia.

Defesa de fiscalização e avaliações independentes

Apesar das advertências, Hinton apoia uma proposta respaldada por 33 países, incluindo Finlândia, Alemanha, Canadá, Austrália e Singapura. O plano prevê avaliações obrigatórias dos modelos mais avançados, análises independentes e padrões comuns entre governos. Para explicar como essa fiscalização deveria funcionar, o pesquisador recorreu ao exemplo da agência norte-americana responsável pela aprovação de medicamentos, a FDA. Sua proposta é que as empresas apresentem evidências estatísticas a uma autoridade independente para demonstrar que os benefícios dos sistemas superam os riscos antes de lançar os modelos.

Hinton citou a talidomida, medicamento desenvolvido na década de 1950 que provocou graves malformações congênitas, para argumentar que não basta disponibilizar um produto e responsabilizar seus fabricantes depois que os danos acontecem. Ele ressaltou que, apesar das advertências, ainda é possível evitar uma catástrofe, mas que isso dependerá de um esforço significativo. O presidente dos Estados Unidos, Donald Trump, por outro lado, rejeita iniciativas de controle internacional, defendendo que as próprias empresas estabeleçam suas regras para não prejudicar a posição dos EUA na disputa com a China.