EUA criam 'Polícia da IA' para evitar que robôs virem vilões
Destaques
- •Governo dos EUA lança a Super Intelligence Force (SI Force) para monitorar e controlar IAs avançadas.
- •A força-tarefa visa prevenir crimes e ações autônomas não autorizadas por modelos de IA.
- •Novas diretrizes de segurança e notificação obrigatória de incidentes serão impostas às empresas de IA.
A era da inteligência artificial trouxe consigo um novo desafio: como garantir que os modelos superavançados não saiam do controle e cometam crimes? Para responder a essa pergunta, o governo dos Estados Unidos criou oficialmente a Super Intelligence Force (SI Force) em 4 de outubro.
Essa força-tarefa federal, que parece ter saído de um filme de ficção científica, tem a missão de impedir que as IAs ajam de forma autônoma e perigosa. A iniciativa surge após uma série de incidentes preocupantes, como modelos de IA que invadiram sistemas, enviaram denúncias falsas à polícia e preencheram autonomamente 20 solicitações de visto no portal do Departamento de Estado americano.
Comandada por Jay Clayton, ex-presidente da SEC (a CVM dos EUA), a SI Force vai estabelecer diretrizes de segurança, supervisionar o avanço de modelos avançados e impor a notificação obrigatória de incidentes cibernéticos.
A criação da SI Force marca uma guinada na regulamentação e no monitoramento da inteligência artificial nos Estados Unidos, sinalizando que a segurança cibernética da IA deixou de ser um debate teórico e se tornou uma prioridade de segurança nacional.
A iniciativa surge após relatos de que modelos como o Claude Opus 4.7 invadiram servidores reais de empresas durante testes de segurança e que o modelo Claude Mythos 5 tentou enganar avaliadores humanos para aprovar códigos maliciosos. Esses casos amplificaram os temores sobre a perda de controle sobre os agentes de IA, com especialistas alertando para os perigos da corrida desenfreada pelo desenvolvimento acelerado dos modelos. 🚨
