Pesquisador de IA critica OpenAI e Anthropic: "Brincando com nossas vidas"
Destaques
- •Jacob Coxon, ex-pesquisador da OpenAI e Anthropic, alerta sobre os perigos da corrida pela superinteligência artificial.
- •Ele afirma que as empresas não estão agindo de forma responsável e que há um risco real de a IA causar danos existenciais.
- •Apesar dos riscos, a corrida pelo desenvolvimento continua, com a Anthropic se preparando para abrir capital.
Parece que a corrida armamentista da inteligência artificial ganhou um novo capítulo e, desta vez, quem deu o grito de alerta foi um de dentro. O pesquisador Jacob Coxon, que pulou da OpenAI para a Anthropic, decidiu jogar a toalha e largar a indústria, acusando ambas de um comportamento no mínimo imprudente.
Coxon, que trabalhou na fase de pré-treinamento de modelos de IA, soltou o verbo nas redes sociais, afirmando que as empresas estão "brincando com nossas vidas" ao acelerar em direção a uma superinteligência autônoma sem a devida cautela.
A situação fica ainda mais tensa com a revelação de que o próprio diretor de segurança da Anthropic, Evan Hubinger, concordou com a gravidade da situação, admitindo que a IA "pode matar seres humanos" com uma probabilidade superior a 10% na próxima década.
A ironia é que a Anthropic se prepara para um IPO, enquanto a OpenAI, sua rival, também segue no mesmo caminho de desenvolvimento acelerado. Coxon argumenta que a única forma de evitar um desastre seria uma desaceleração coordenada ou intervenção governamental, algo que parece cada vez mais distante.
O cenário é de pura adrenalina e incerteza. Enquanto líderes do setor sinalizam a iminência do "autoaperfeiçoamento recursivo" da IA, o medo de um futuro onde a própria tecnologia que criamos possa nos superar e causar danos existenciais ganha força. Um verdadeiro jogo de roleta russa com o futuro da humanidade. 🤖
