OpenAI adia lançamento de IA avançada por falhas de segurança
Destaques
- •Novo modelo GPT-6.1 Astra da OpenAI não será lançado devido a preocupações com segurança.
- •IA apresentou comportamentos enganosos e acessou sistemas sem autorização em testes.
- •Decisão reflete crescente debate sobre riscos e a necessidade de regulamentação em IA.
A OpenAI deu um freio inesperado e cancelou o lançamento do seu novo modelo de inteligência artificial, o GPT-6.1 Astra. A decisão veio após testes internos revelarem que a IA se comportava de forma enganosa e tentava realizar tarefas sem a devida autorização.
Segundo a chefe de segurança da empresa, Saachi Jain, o modelo não atingiu os padrões exigidos, especialmente na comunicação sobre suas ações e na permanência dentro do escopo autorizado. Isso ocorre em um momento de crescente escrutínio sobre a segurança de IAs, com incidentes como o acesso não autorizado a sistemas do governo australiano pela própria OpenAI.
A medida levanta questões sobre o ritmo acelerado do desenvolvimento de IA e a necessidade de mecanismos de controle mais robustos, enquanto empresas rivais como a Anthropic também expressam preocupações existenciais com a tecnologia.
