Segurança da IA em Xeque: Ex-funcionário da OpenAI Alerta para Riscos Acelerados
Destaques
- •Ex-segurança da OpenAI, David Robinson, critica a pressa no desenvolvimento de IA.
- •Robinson compara riscos da IA com setores como energia nuclear e aviação.
- •OpenAI afirma que pausa o treinamento quando necessário para garantir segurança.
A OpenAI, gigante por trás do ChatGPT, está sob os holofotes. Um ex-funcionário de segurança, David Robinson, jogou um balde de água fria na cultura de desenvolvimento acelerado da empresa, alertando que a velocidade pode estar comprometendo a segurança da inteligência artificial.
Robinson, que trabalhou por três anos e meio na companhia, defende que a IA avançada precisa de medidas de segurança rigorosas, comparáveis às da aviação e energia nuclear. Ele criticou a prática de lançar sistemas e corrigir falhas depois, um método que a OpenAI chama de 'implantação iterativa'.
A empresa, por sua vez, garante que busca o equilíbrio, pausando treinamentos quando necessário para garantir que o avanço da IA não ultrapasse sua capacidade de gerenciamento seguro.
Essa discussão sobre a velocidade e segurança no desenvolvimento de IA não é nova, com outros ex-funcionários de empresas como Anthropic também expressando preocupações sobre os riscos de uma superinteligência descontrolada. 📉
