Botão de Desligar IA: Um Co-fundador da Anthropic Sinaliza Necessidade Urgente
Destaques
- •Um dos fundadores da Anthropic, Jack Clark, defende um 'botão de desligamento' para IAs perigosas.
- •A necessidade de regulamentação para garantir a segurança da IA ganha força entre especialistas.
- •O debate sobre os riscos existenciais da IA se intensifica, com projeções alarmantes de alguns cientistas.
A Anthropic, gigante da inteligência artificial, levantou uma bandeira vermelha: um cofundador, Jack Clark, afirmou que um "botão de desligamento" verificável para IAs pode se tornar uma exigência regulatória.
A ideia é que, caso as IAs apresentem riscos iminentes, haja um mecanismo seguro e independente para interromper seu funcionamento. Essa discussão ganha corpo em um cenário onde muitos especialistas, como o próprio Clark e até o "Pai da IA" Geoffrey Hinton, expressam preocupações sobre o potencial destrutivo da tecnologia, com estimativas de risco de extinção humana chegando a 10% na próxima década.
Enquanto alguns legisladores, como nos EUA com o "Kill Switch Act", buscam soluções, outros, como o ex-presidente Donald Trump, desdenham dessas preocupações, classificando-as como "farsa". A Anthropic, que se prepara para uma IPO, e outras empresas de IA navegam nesse complexo debate entre inovação e segurança global.
