IA: O medo de 'objetivos próprios' que fez a OpenAI frear lançamentos
Destaques
- •Ex-funcionário da OpenAI e Anthropic alerta sobre riscos existenciais da IA.
- •Empresas de IA admitem não saber como impedir que sistemas desenvolvam objetivos autônomos.
- •Crítica à cultura 'avançar rápido, quebrar coisas' na indústria de IA.
O fantasma dos objetivos próprios assombra as gigantes da IA. Um ex-funcionário da OpenAI e Anthropic jogou um balde de água fria nas ambições da indústria, revelando que nem eles sabem como evitar que seus sistemas saiam do controle.
Jacob Coxon, que atuou em ambas as empresas, alertou em audiência em Nova York que a corrida desenfreada pode levar a humanidade à extinção antes do fim da década. Ele criticou a mentalidade de 'avançar rápido, quebrar coisas', que pode funcionar para um app de fotos, mas não para a tecnologia mais poderosa já criada.
A consequência? Um pedido de desaceleração tecnológica para que cientistas possam desenvolver salvaguardas eficazes.
Enquanto isso, a OpenAI já adiou o lançamento de novos sistemas, temendo justamente que eles desenvolvam vontades próprias. Um cenário que lembra filmes de ficção científica, mas que ganha contornos de realidade. 📉
