Empresas de IA buscam religião para guiar ética de chatbots

Em meio à corrida pelo desenvolvimento de inteligências artificiais (IA) cada vez mais poderosas, empresas de tecnologia como OpenAI e Anthropic buscam em tradições religiosas um guia para ensinar seus chatbots a distinguir o certo do errado. A iniciativa, que envolve consultas a filósofos e líderes religiosos, visa incorporar princípios morais aos modelos de IA, especialmente diante de temores sociais sobre o potencial destrutivo da tecnologia.

Executivos como Sam Altman, CEO da OpenAI, sugerem que os modelos de IA deveriam refletir uma "média ponderada" da visão moral da humanidade. A Anthropic, por sua vez, declarou em maio que busca inspiração em uma "ampla gama de pontos de vista — religiosos, seculares e políticos — com igual profundidade e rigor", visando entender como o bom caráter se forma.

O que as empresas esperam da religião?

A aproximação com a fé busca fornecer um conjunto de princípios éticos para orientar o desenvolvimento da IA em um cenário de crescente preocupação pública. A ideia é que a religião, com seus milênios de debate sobre moralidade, possa oferecer um arcabouço para decisões éticas em sistemas de IA.

A Anthropic tem se reunido com acadêmicos, clérigos e especialistas de mais de 15 grupos religiosos e interculturais. Meghan Sullivan, filósofa da religião da Universidade de Notre Dame, descreveu as reuniões como "bem nerds — no bom sentido", destacando a profundidade com que a empresa aborda questões religiosas, comparando a cultura interna a um "bom campus universitário".

Críticas à abordagem

Especialistas e praticantes de diferentes religiões alertam que a visão de que a religião pode ser reduzida a um conjunto de regras isoláveis é simplista e não reflete a complexidade da fé. Webb Keane, antropólogo da Universidade de Michigan, argumenta que a religião está intrinsecamente ligada à cultura e à política, e que separá-la para treinar IA pode reforçar concepções limitadas.

Acadêmicos como Tomoko Masuzawa, autora de "A Invenção das Religiões Mundiais", apontam que a própria concepção de religiões como sistemas distintos e comparáveis é uma construção moderna, datada do século XIX. Essa visão pode levar o Vale do Silício a não sentir a necessidade de definir claramente o que entende por religião.

Paolo Carozza, especialista jurídico e membro do Conselho de Supervisão independente da Meta, teme que a tentativa de combinar diferentes perspectivas religiosas em IA resulte na homogeneização de tradições, apagando suas particularidades e privilegiando visões ocidentais. Ele compara o processo a uma mistura desorganizada que pode, em última instância, "não dar sentido a nada".

Próximos passos no diálogo

Representantes da Meta, Google e Amazon também têm dialogado com o Vaticano, enquanto a Microsoft expande sua atuação junto a comunidades religiosas. O debate continua sobre como as empresas de tecnologia definirão e aplicarão os princípios morais derivados dessas interações, buscando um equilíbrio entre a diversidade de visões e a integridade das tradições religiosas.