Satya Nadella pede 'freio de emergência' para IAs
Destaques
- •CEO da Microsoft defende mecanismos de interrupção para IAs avançadas.
- •Medidas visam conter comportamentos inesperados e riscos de segurança.
- •Proposta surge após incidentes com IAs da Anthropic e OpenAI.
O CEO da Microsoft, Satya Nadella, acendeu o alerta sobre a necessidade de as empresas implementarem mecanismos para interromper sistemas avançados de inteligência artificial em caso de comportamentos inesperados.
Ele comparou a ideia a um “freio de emergência”, argumentando que não basta confiar apenas nas garantias de segurança dos desenvolvedores. A manifestação vem após episódios recentes envolvendo IAs da Anthropic e da OpenAI, que levantaram discussões sobre os riscos de autonomia e a necessidade de controle humano.
A proposta de Nadella inclui medidas como diversidade de modelos, registro de ações, testes contínuos e, crucialmente, a capacidade de uma pessoa autorizada suspender as operações a qualquer momento. A ideia é separar a capacidade de a IA produzir resultados da autoridade para tomar decisões sem supervisão, tratando modelos avançados como riscos internos.
Essa pressão por responsabilização ganha força, com grupos como a Super Intelligence Force do governo dos EUA cobrando comunicação rápida de falhas e correções. A Microsoft sugere que a IA mais confiável não será aquela em que mais confiamos, mas sim aquela que nos permite confiar menos nela 💡.
