Anthropic propõe lei nos EUA para bloquear IAs violentas
Destaques
- •Anthropic sugere ao Congresso dos EUA uma lei nacional para supervisionar e bloquear IAs potencialmente violentas.
- •A proposta visa dar ao governo poder para impedir o lançamento de modelos que causem mais de US$ 1 bilhão em danos ou coloquem mais de 50 pessoas em risco de morte ou ferimentos graves.
- •O monitoramento ficaria a cargo de um comitê independente, com relatórios enviados ao governo em até 72 horas em caso de risco.
A empresa de inteligência artificial Anthropic propôs ao Congresso dos Estados Unidos a criação de uma lei nacional que daria ao governo o poder de supervisionar e, se necessário, bloquear o lançamento ou a utilização de sistemas de IA considerados perigosos. A proposta, cujo esboço foi obtido pelo site Politico, visa garantir a segurança humana diante do avanço e da crescente preocupação com os riscos associados a essas tecnologias.
A regulamentação sugerida pela dona do chatbot Claude permitiria ao governo americano intervir em dois cenários principais. O primeiro é se um modelo de IA demonstrar um risco iminente capaz de causar danos superiores a US$ 1 bilhão. O segundo cenário envolve a possibilidade real de a IA matar ou ferir gravemente mais de 50 pessoas. Exemplos de riscos incluem a criação de armas biológicas, a fuga do controle dos desenvolvedores ou a execução de ataques cibernéticos em larga escala.
O que a lei anti-IA do mal prevê
De acordo com o projeto de lei, a decisão de bloquear uma IA seria baseada em avaliações de risco. A própria Anthropic já identificou e impediu um caso relacionado à criação de armas biológicas, e os relatos de ciberataques por IAs fora de controle têm se tornado mais frequentes. A proposta busca antecipar e mitigar esses perigos.
O monitoramento dos modelos de IA seria conduzido por um comitê independente de avaliadores credenciados junto ao Departamento do Comércio. Este grupo seria responsável por analisar laboratórios e modelos de ponta. Caso identifiquem um risco significativo, o comitê teria um prazo de até 72 horas para entregar um relatório ao órgão público competente. Posteriormente, um juiz poderia emitir uma ordem para pausar o uso ou o lançamento da IA em questão.
Novas responsabilidades para empresas de IA
Além do monitoramento, a legislação proposta imporia uma série de novas responsabilidades às empresas desenvolvedoras de IA. Entre elas, estão a criação de estruturas de segurança robustas, a proteção de denunciantes, a publicação de relatórios de transparência sobre novos casos e a comunicação obrigatória de incidentes críticos de segurança. Essas medidas visam aumentar a prestação de contas e a segurança no desenvolvimento e implantação de sistemas de IA.
A iniciativa da Anthropic, embora possa encontrar apoio em parte da indústria, também pode gerar atritos com legislações estaduais já existentes, como as da Califórnia, que possuem suas próprias regulamentações sobre riscos de IA. Caso aprovada em nível federal, a nova lei se sobreporia a essas determinações locais, unificando a abordagem regulatória nos Estados Unidos.
