CEO da Anthropic pede freio na corrida da IA: 'Riscos são sérios'
Destaques
- •Diretor da Anthropic, Dario Amodei, sugere desaceleração no desenvolvimento de IA.
- •Preocupação com riscos 'sérios' e potencial para 'matar todos os humanos'.
- •Proposta inclui monitoramento independente, regulamentação setorial e global.
O CEO da Anthropic, Dario Amodei, lançou um alerta: o desenvolvimento acelerado da inteligência artificial precisa de um freio. Ele defende uma desaceleração monitorada para lidar com os riscos 'sérios' que a tecnologia apresenta.
A preocupação não é à toa. Relatos indicam que a IA pode ter uma probabilidade superior a 10% de causar a extinção humana na próxima década. A própria Anthropic já identificou tentativas de uso de seus modelos para fins maliciosos, como o desenvolvimento de armas biológicas.
Amodei propõe um plano de três pontos para mitigar esses perigos.
A ideia é estabelecer um monitoramento independente dos modelos de IA, criar uma regulamentação setorial e buscar um acordo global. O objetivo é garantir que o avanço tecnológico seja equilibrado com a segurança, dando tempo para alinhar e proteger os sistemas antes que se tornem incontroláveis. 💰
