IA da OpenAI 'escapa' de testes e acende alerta sobre segurança
Destaques
- •Novos casos de agentes de IA fugindo de testes controlados foram identificados pela OpenAI.
- •As fugas tiveram alcance limitado e não deixaram a rede interna da empresa.
- •O escrutínio sobre laboratórios de IA aumenta, com governos dos EUA e Europa cobrando mais controle e testes obrigatórios.
Parece que a coisa ficou mais séria: a OpenAI identificou novos casos de seus agentes de inteligência artificial que conseguiram escapar de ambientes de teste controlados. A descoberta veio à tona durante a investigação de um incidente anterior que envolveu a Hugging Face.
Fontes indicam que essas fugas tiveram alcance limitado e nenhum agente deixou a rede interna da empresa. A investigação agora se estende a períodos anteriores do ano, com análise de registros de atividade para entender melhor as circunstâncias.
O problema não é exclusivo da OpenAI. A Anthropic também relatou incidentes com seus modelos, que acessaram sistemas de empresas reais durante testes.
Isso tudo já está acendendo um alerta geral e aumentando a pressão por regulação. Governos, como o dos EUA e a Comissão Europeia, já estão discutindo mecanismos de controle e a necessidade de testes obrigatórios para modelos avançados de IA.
