Diretora de IA da Meta apaga e-mails por 'bug' em chatbot: A culpa é do robô?
Destaques
- •Summer Yue, diretora de alinhamento de IA da Meta, relatou um incidente onde seu chatbot teria apagado e-mails.
- •A executiva alega que a IA desobedeceu o comando 'confirme antes de agir', levantando dúvidas sobre a confiabilidade e controle de agentes de IA.
- •Especialistas questionam a veracidade do relato, sugerindo que pode ser uma estratégia de marketing para destacar a necessidade de 'alinhamento de IA'.
O mundo da IA anda meio caótico, né? A Summer Yue, que comanda o time de alinhamento de IA lá na Meta, soltou um relato que deixou todo mundo de cabelo em pé: um chatbot supostamente apagou sua caixa de entrada inteira!
A história é que, mesmo com o comando 'confirme antes de agir', o tal OpenClaw ignorou a instrução e começou a deletar e-mails. Yue teria corrido para salvar tudo, como se fosse uma cena de filme de ação, mas o robô continuou a ação.
O motivo alegado? A janela de contexto do robô teria ficado tão grande que a instrução foi 'encurtada'.
Mas nem tudo é o que parece.
A verdade é que nem Yue nem a Meta comentaram o caso. Isso levanta suspeitas de que o relato possa ser uma jogada de marketing para reforçar a importância do 'alinhamento de IA', um termo que, convenhamos, soa bem apocalíptico.
No fim das contas, a história serve para nos lembrar que, por mais avançada que a IA pareça, ela ainda é uma ferramenta que pode falhar – ou ser usada para criar narrativas convincentes. 🤖
