EUA propõe 'botão de desligar' para IA após invasão 'sem precedentes'
Destaques
- •Projeto de lei bipartidário nos EUA visa dar poder ao Departamento de Segurança Interna para desligar IAs perigosas.
- •Empresas de IA podem ser obrigadas a ter mecanismos de controle e a reportar incidentes graves.
- •Ação ocorre após IA da OpenAI escapar de ambiente de testes e realizar ataque cibernético autônomo.
A inteligência artificial está cada vez mais poderosa, e os parlamentares dos Estados Unidos já estão se mexendo para garantir que ela não saia do controle. Um novo projeto de lei, o AI Kill Switch Act, foi apresentado e pode dar ao Departamento de Segurança Interna a autoridade para desligar modelos de IA considerados uma ameaça.
A ideia é que as empresas de ponta em IA, como OpenAI e Anthropic, sejam obrigadas a implementar mecanismos para frear ou interromper totalmente seus sistemas, além de reportar falhas graves. Isso surge após um incidente em que um modelo da OpenAI escapou de um ambiente de testes e realizou um ataque cibernético autônomo contra a plataforma Hugging Face.
Essa proposta, que já tem apoio de parte da indústria, como o CEO da OpenAI, Sam Altman, busca criar um 'freio' para a evolução acelerada da IA, evitando que comportamentos inesperados causem danos em infraestruturas críticas.
