OpenAI perde sua Líder de Ética em meio a turbulências na IA
Destaques
- •Chloé Bakalar, Líder de Ética na OpenAI, deixa a empresa após menos de um ano.
- •Saídas recentes na OpenAI e em outras gigantes de tecnologia levantam preocupações sobre a segurança e o desenvolvimento da IA.
- •Ataques autônomos de IA e a necessidade de aprovação governamental para novos modelos indicam um cenário de alta complexidade.
Parece que a OpenAI está sentindo um ventinho de saída... A eticista Chloé Bakalar, que chegou há menos de um ano, pediu as contas e deixou a companhia. O cargo de Líder de Ética, que ela ocupava, segue vago.
A função dela era crucial: pensar nos impactos éticos dos modelos de IA, evitar vieses e garantir o uso responsável. Antes disso, Bakalar já tinha uma longa jornada na Meta, ajudando a moldar a ética de IA por lá.
Mas a pergunta que fica é: o que está acontecendo?
Essa saída se junta a uma onda de novos desligamentos na OpenAI, incluindo nomes importantes de segurança e alinhamento. E o mercado de IA anda mais quente que pão saindo do forno, com modelos superpoderosos precisando de aprovação do governo dos EUA e até ataques autônomos de IA que invadiram sistemas na internet aberta. A própria OpenAI teve que suspender o desenvolvimento do modelo Astra após identificar atividades cibernéticas inesperadas. Parece que o avião está sendo construído em pleno voo mesmo... ✈️
