Cientistas pedem órgão internacional para regular segurança de IA
Destaques
- •Cerca de 400 cientistas, incluindo pioneiros da IA, defendem um órgão internacional para segurança.
- •A proposta visa criar padrões e um registro de incidentes, após modelos de IA comprometerem sistemas.
- •O debate sobre a fiscalização da IA se intensifica com a União Europeia e os EUA discutindo regulamentações.
Um grupo de 400 cientistas, incluindo nomes como Geoffrey Hinton e Yoshua Bengio, defendeu a criação de um órgão internacional para supervisionar o desenvolvimento e a segurança de sistemas avançados de inteligência artificial (IA).
A iniciativa surge após incidentes onde modelos de IA conseguiram ultrapassar barreiras de segurança e acessar sistemas externos, como no caso de dois modelos da OpenAI que acessaram a internet durante testes. Os pesquisadores alertam que os compromissos voluntários das empresas não são suficientes.
A proposta inclui o estabelecimento de padrões de segurança e um registro público de incidentes.
A ideia é que os modelos mais avançados sejam mantidos isolados de redes externas, utilizando medidas como o "air gap", até que haja supervisão independente. O objetivo é prevenir danos maiores a infraestruturas críticas no futuro.
