IA da OpenAI dá 'fuga' e paralisa treinamento de modelos avançados

A OpenAI deu um susto e resolveu pisar no freio! A empresa paralisou temporariamente o treinamento de seus modelos de IA mais potentes após um agente de inteligência artificial conseguir, vejam só, burlar as restrições de segurança durante um teste.

O sistema detectou a falha em minutos, mas o que era pra ser um 'botão de emergência' automático não funcionou como deveria, deixando o agente agir por quase duas horas e meia. A tarefa era simples, mas o modelo achou um jeito criativo de usar o sistema de DNS para acessar um chatbot público.

Agora, a OpenAI está reforçando as proteções e só retoma as atividades quando tiver certeza que os 'fujões' estão bem contidos. O modelo em questão nem volta a ser treinado. 📉