Empresas de IA buscam religião para guiar ética de modelos

Empresas de tecnologia como OpenAI, Anthropic, Meta, Google e Amazon estão buscando em tradições religiosas e filosóficas um caminho para ensinar princípios morais a seus modelos de inteligência artificial (IA). A iniciativa surge em meio a debates sobre o potencial destrutivo da IA e a necessidade de desenvolver sistemas que tomem decisões alinhadas a valores éticos.

Executivos, como Sam Altman, CEO da OpenAI, expressaram o desejo de que a IA reflita uma "média ponderada da visão moral da humanidade". A Anthropic, por exemplo, tem realizado encontros com acadêmicos, clérigos e filósofos de mais de 15 grupos religiosos e interculturais, buscando inspiração em uma "ampla gama de pontos de vista".

O que as empresas esperam da religião?

A ideia central é que a religião, com seus milênios de reflexão sobre moralidade e ética, possa oferecer um conjunto de princípios para orientar o desenvolvimento da IA. Em um cenário onde temores sobre a tecnologia se espalham, as empresas buscam uma base para o que consideram "bom caráter" e para garantir que os modelos de IA ajam de forma responsável.

A Anthropic descreve suas reuniões como "bem nerds", com discussões que vão desde a natureza da alma humana até o uso de chatbots por estudantes. A empresa busca "uma reflexão cuidadosa e acumulada sobre como o bom caráter realmente se forma", sem vincular seus modelos a uma tradição específica.

Críticas à abordagem simplista

Especialistas e praticantes de diferentes religiões alertam, no entanto, que essa abordagem pode ser superficial. Antropólogos como Webb Keane argumentam que a religião é mais do que um conjunto de regras isoláveis; ela está profundamente ligada à cultura, à política e às práticas cotidianas dos fiéis.

A visão de que a religião pode ser reduzida a um livro de regras, especialmente associada às tradições abraâmicas, pode ignorar a complexidade e as contradições inerentes a diferentes visões de mundo. A tentativa de extrair princípios morais universais pode acabar priorizando algumas tradições em detrimento de outras, ou distorcendo a essência de fés que não se definem primariamente como sistemas éticos.

A invenção ocidental das religiões

Estudiosos da religião, como Tomoko Masuzawa, apontam que a própria concepção de "religiões mundiais" distintas e comparáveis é uma construção moderna, muitas vezes moldada pela academia ocidental a partir do século XIX. Antes disso, categorias como budismo ou hinduísmo não eram claramente delimitadas para seus praticantes.

Essa concepção arraigada pode levar o Vale do Silício a acreditar que a religião é uma fonte facilmente acessível de diversidade de pensamento, sem a necessidade de definir precisamente o que entendem por ela. O risco é que, ao misturar diferentes perspectivas, a IA acabe homogeneizando tradições e apagando suas particularidades.

Próximos passos e desafios

Paolo Carozza, especialista jurídico e membro do Conselho de Supervisão independente da Meta, teme que a IA "simplesmente misture tudo, desorganize tudo e, assim, acabe não dando sentido a nada". O desafio para as empresas é encontrar um equilíbrio entre incorporar a sabedoria religiosa e ética de forma orgânica e respeitosa, sem descaracterizar as tradições ou criar modelos moralmente ambíguos.