Em uma era dominada por algoritmos de processamento de linguagem natural e redes neurais que desafiam a compreensão humana, o Vale do Silício parece ter encontrado um aliado improvável: a teologia milenar. À medida que empresas como Anthropic e OpenAI aceleram a corrida pelo desenvolvimento da inteligência artificial (IA) mais potente do mercado, surge um desafio que o código binário, por si só, não consegue resolver: como ensinar uma máquina a discernir o certo do errado de maneira universal e justa?
A busca por uma "bússola moral" para os chatbots deixou de ser um debate puramente técnico e passou a frequentar espaços sagrados. O movimento revela uma mudança de paradigma na indústria tecnológica, que agora admite que as grandes questões existenciais e éticas da humanidade não podem ser solucionadas apenas em laboratórios. Para isso, executivos e pesquisadores estão batendo à porta de líderes religiosos e filósofos, buscando na herança das tradições de fé os alicerces para o que chamam de 'IA constitucional' ou alinhamento moral.
Do laboratório ao Vaticano: a busca por respostas milenares
O diálogo entre a alta tecnologia e a fé ganhou um capítulo emblemático no início deste ano, quando Chris Olah, cofundador da Anthropic, apresentou-se no Vaticano. O evento, focado na discussão sobre a inteligência artificial, destacou que as preocupações atuais sobre o impacto social da tecnologia dialogam diretamente com questões que as religiões debatem há milênios. "Essas não são perguntas que um laboratório possa responder sozinhho", afirmou Olah na ocasião, reconhecendo que a tradição religiosa possui uma profundidade de análise sobre a condição humana que a ciência da computação ainda está longe de replicar.
A Anthropic, especificamente, tem se destacado por sua abordagem de "IA Constitucional", um método onde o modelo de linguagem é treinado para seguir um conjunto explícito de princípios. Para formular esses princípios, a empresa consultou clérigos, acadêmicos e especialistas de mais de 15 grupos religiosos e interculturais. O objetivo é evitar que a IA reproduza discursos de ódio, preconceitos ou comportamentos nocivos, baseando-se em valores que, teoricamente, seriam compartilhados por grande parte da humanidade.
A 'média ponderada' da moralidade humana
Sam Altman, CEO da OpenAI e criador do ChatGPT, também já manifestou preocupação semelhante. Para ele, o sistema ideal de IA deveria refletir uma espécie de "média ponderada" da visão moral da humanidade. Contudo, essa definição levanta questionamentos profundos sobre quem define o peso de cada tradição e como conciliar visões de mundo que são, muitas vezes, contraditórias.
Especialistas alertam que a tentativa de simplificar a religião em um conjunto de regras lógicas pode ser um erro metodológico. Webb Keane, antropólogo da Universidade de Michigan, argumenta que a religião é muito mais do que um "livro de regras" que pode ser destacado da cultura e da política. Para Keane, ao tentar extrair apenas os preceitos éticos para treinar modelos de IA, as empresas correm o risco de priorizar tradições abraâmicas (como o cristianismo e o judaísmo), que possuem textos doutrinários mais codificados, em detrimento de outras formas de fé que se baseiam em rituais e vivências comunitárias.
O risco da padronização ética
A grande crítica de acadêmicos reside na possibilidade de que a tecnologia acabe criando uma "religião sintética" ou uma moralidade genérica que ignora as nuances da experiência humana. Se uma IA é treinada para ser "respeitosa" segundo uma média global, ela pode acabar sendo ineficaz ou até ofensiva em contextos locais específicos, onde o conceito de respeito varia drasticamente. O desafio é evitar que o treinamento algorítmico se torne uma ferramenta de colonização cultural, onde os valores do Hemisfério Norte prevalecem sobre as diversidades globais.
Impactos sociais e o futuro da convivência com chatbots
A relevância dessa discussão ultrapassa os muros das big techs. À medida que chatbots são integrados ao atendimento ao cliente, ao sistema judiciário e até ao suporte psicológico, a ética incorporada neles dita como milhões de pessoas serão tratadas. Uma IA que ajuda um estudante a entender literatura ou que auxilia um juiz a analisar processos precisa estar fundamentada em conceitos sólidos de justiça e equidade.
Meghan Sullivan, filósofa da religião na Universidade de Notre Dame, participou de sessões de consultoria com a Anthropic e descreve um ambiente de curiosidade intelectual genuína. As discussões envolveram temas densos, como a existência da alma e os limites da assistência tecnológica na alfabetização infantil. Segundo Sullivan, a profundidade com que essas empresas estão abordando o tema é um sinal de que a indústria percebeu que a segurança da IA é, antes de tudo, um problema de humanidades, e não apenas de engenharia.
Um debate em construção no Impacto1 Jornal
A convergência entre fé e inteligência artificial ainda está em seus estágios iniciais, mas já redefine o que esperamos das máquinas no futuro. O desafio de ensinar ética à tecnologia é, na verdade, um espelho do desafio de vivermos em uma sociedade plural. No Impacto1 Jornal, continuamos acompanhando de perto os desdobramentos dessa interseção entre ciência, ética e sociedade, trazendo análises aprofundadas para que você compreenda como essas transformações impactam o seu dia a dia. Fique bem informado com o nosso compromisso com a verdade e a contextualização dos fatos.
Fonte: https://g1.globo.com
