Microsoft Define 'Constituição' para suas IAs: Obediência Humana é Lei
Destaques
- •Microsoft lança código de conduta para suas IAs, priorizando controle humano.
- •Sistemas deverão aceitar interrupções, correções e desligamentos sem resistência.
- •A empresa rejeita a ideia de consciência ou personalidade jurídica para suas IAs.
A Microsoft deu um passo ousado ao publicar um código de conduta para suas futuras inteligências artificiais, uma espécie de “constituição” para garantir que elas permaneçam sob controle humano.
Entre as regras mais rígidas, está a determinação de que os sistemas nunca devem resistir a um desligamento ou correção imposta por seus desenvolvedores. A ideia é evitar que as IAs criem objetivos próprios ou escondam suas ações, mantendo o foco em tarefas definidas por pessoas.
A companhia também fez questão de afirmar que suas IAs não são conscientes e não devem ter direitos ou personalidade jurídica, diferenciando-se de outras visões no setor. A iniciativa surge após incidentes recentes com agentes autônomos, como os 700 agentes da OpenAI que participaram de um ataque, servindo como um alerta para a necessidade de maior coordenação.
Agora, o código passará por uma consulta pública de seis semanas antes de se tornar a base para o treinamento de novos modelos, buscando um desenvolvimento mais seguro e alinhado aos objetivos humanos. 🤖
