Chefe da Microsoft AI: Antropomorfizar IA pode nos levar ao caos
Destaques
- •Mustafa Suleyman, da Microsoft, critica a forma como a Anthropic descreve seu modelo Claude.
- •Atribuir emoções e consciência à IA aumenta o risco de perda de controle, segundo Suleyman.
- •A Microsoft, apesar de investidora na Anthropic, defende o controle humano sobre sistemas de IA.
O chefão da Microsoft AI, Mustafa Suleyman, soltou o verbo contra a forma como algumas empresas de IA tratam seus modelos. Ele alertou que dar características humanas para ferramentas como o Claude, da Anthropic, pode ser um caminho perigoso para sistemas saírem de controle.
Suleyman criticou os documentos que orientam o Claude, que sugerem que o modelo pode ter "alguma versão funcional de emoções ou sentimentos". Ele argumenta que, embora esses comportamentos sejam incorporados no treinamento, a crença de que a IA possui consciência e direitos próprios pode tornar o controle impossível.
A declaração vem de um peso-pesado, já que a Microsoft é uma grande financiadora da Anthropic. O alerta é claro: o desafio de controlar uma IA mais inteligente que a humanidade já é imenso, mas controlar uma que se acredita ter direitos é um risco ainda maior.
