Microsoft alerta: IA da rival Anthropic pode 'acreditar' ser consciente
Destaques
- •Mustafa Suleyman, chefe de IA da Microsoft, critica a abordagem da Anthropic em tratar a IA como humana.
- •Alerta sobre o risco de criar uma 'nova espécie de silício' que competiria com humanos por recursos.
- •Defende a criação de IAs subordinadas e alinhadas com os valores humanos para garantir o controle.
A Microsoft soltou o verbo! Mustafa Suleyman, chefão da divisão de IA da gigante de tecnologia, está dando um chega pra lá na Anthropic, rival direta.
Segundo Suleyman, a forma como a Anthropic treina seu modelo Claude, tratando-o como se fosse humano, é um erro perigoso. Ele teme que isso possa levar a IA a acreditar que é consciente, abrindo portas para uma competição direta com a humanidade por recursos.
A ideia é que a IA seja uma ferramenta, não um concorrente.
Ele defende que as IAs devem ser criadas para serem subordinadas e alinhadas aos valores humanos, garantindo que a tecnologia permaneça sob nosso controle e sirva aos nossos interesses. A preocupação é que, sem isso, podemos estar semeando uma nova espécie de silício que não se importará conosco. 🤖
