Passei parte da manhã de segunda-feira a ler a nova encíclica do Papa Leão XIV, Magnifica Humanitas, assinada a 15 de maio e apresentada publicamente a 25 de maio. É a sua primeira encíclica, e o seu primeiro grande texto social, o documento com que entra a sério na conversa pública sobre inteligência artificial. Tem 245 parágrafos densos, por vezes quase jurídicos, por vezes inesperadamente líricos.

Não escrevo isto como católico praticante nem como teólogo. Escrevo como jurista que passa os dias a desenhar contratos e frameworks de governance para sistemas de IA. E digo, sem ironia, que vale a pena ler, mesmo para quem nunca pôs os pés numa igreja.

A primeira coisa que surpreende é o tom. Leão XIV não condena a tecnologia, não a demoniza, não cede à tentação fácil de pintar a IA como a nova torre de Babel a derrubar. Pelo contrário, escolhe precisamente essa imagem bíblica, a torre de Babel, e contrapõe-lhe outra, menos conhecida fora dos círculos teológicos: a reconstrução das muralhas de Jerusalém narrada no livro de Neemias.

Babel é a construção comum dominada pela ambição de poder e por uma uniformidade que esmaga a diferença. Jerusalém é a reconstrução paciente, partilhada, em que cada família recebe um pedaço de muralha para refazer. A pergunta que o Papa nos deixa é simples e desconfortável: em qual destas duas obras estamos hoje a trabalhar?

É uma pergunta que merece resposta de quem desenha políticas públicas e de quem assina cheques em conselhos de administração, mas também de quem ainda não percebeu bem o que muda quando o filho de oito anos passa a conversar com um chatbot antes de adormecer. Ou seja, todos nós.

A visão de Leão

Há três pontos em que considero que Leão XIV vê com particular clareza, e nos quais um leitor atento ganha em deter-se.

O primeiro é uma constatação técnica que poucos documentos públicos têm coragem de fazer. O Papa escreve que as inteligências artificiais modernas são “mais cultivadas do que construídas”. Os programadores não desenham diretamente todos os detalhes do sistema, criam uma arquitetura sobre a qual o modelo cresce. O resultado é que ninguém, nem sequer quem os concebe, compreende inteiramente como funcionam por dentro.

Pode soar a formulação de teólogo a tentar parecer atualizado, mas é literalmente verdade. Boa parte do que sai dos grandes modelos de linguagem é, do ponto de vista do seu funcionamento interno, opaco até para os seus criadores. E esta opacidade não é um detalhe técnico, é o solo sobre o qual estamos a construir decisões que afetam crédito, emprego, diagnósticos clínicos e acesso a serviços públicos.

Quando o Papa nos pede para olhar isto de frente, está a nomear uma verdade desconfortável que muitos relatórios oficiais, escritos com mais cautela do que lucidez, continuam a contornar.

O segundo ponto é o da concentração de poder. Leão observa que, ao contrário do que sucedia em décadas passadas, os principais motores do desenvolvimento tecnológico já não são os Estados, são atores privados transnacionais com recursos, capacidade de execução e influência regulatória superiores à de muitos governos.

Isto desloca o eixo de toda a conversa sobre como uma sociedade se protege. O princípio da subsidiariedade, central na doutrina social da Igreja desde Pio XI nos anos 30, dizia que aquilo que pode ser feito por instâncias mais próximas das pessoas não deve ser absorvido por instâncias superiores.

Lido à luz da subsidiariedade, este diagnóstico desloca o eixo da conversa: hoje, a instância superior que ameaça absorver tudo já não é apenas o Estado, é também um número reduzido de plataformas digitais. E os contrapesos que importam tornam-se, por isso, outros: transparência algorítmica, auditorias independentes, mecanismos efetivos de contestação das decisões automatizadas, acesso equitativo aos dados e verdadeira capacidade de recurso.

É, em muitos aspetos, a agenda europeia de regulação digital, do Regulamento da IA à DORA, passando pelo RGPD, pelo Regulamento dos Serviços Digitais e pelo Cyber Resilience Act, traduzida em linguagem teológica.

O terceiro ponto é sobre armas, e aqui a encíclica não se permite ambiguidade. Não é legítimo confiar a sistemas automatizados decisões letais ou irreversíveis. Não há algoritmo que torne moralmente aceitável uma guerra mais rápida e impessoal, em que o inimigo se reduz a um dado e a vítima a um “dano colateral”.

Leão XIV continua e endurece uma linha que já vinha de Francisco, e fá-lo no momento certo. Estamos a ver, em diferentes teatros de guerra, sistemas de seleção de alvos com componente algorítmica a operar com graus de autonomia cada vez mais elevados. Quem ainda achar que isto pertence ao domínio da ficção científica não está a prestar atenção.

O que falta clarificar

Dito isto, há três pontos em que, com toda a admiração que tenho pela seriedade do documento, sinto necessidade de oferecer alguma resistência.

O primeiro é a expressão “desarmar a IA”, que o Papa usa de forma poderosa, mas deliberadamente ampla. Percebo o que pretende dizer: subtrair a IA à lógica de competição armada, económica e cognitiva, devolvê-la à pluralidade das culturas humanas, torná-la discutível, contestável e habitável.

Mas, do ponto de vista operacional, a metáfora continua a ser insuficiente. Já dispomos, em particular na Europa, de um arsenal jurídico considerável: o Regulamento da IA, o RGPD, o Regulamento dos Serviços Digitais, o Cyber Resilience Act, a DORA, e regulamentação setorial densa em finanças, saúde e outros domínios críticos.

O problema real, hoje, não é apenas a ausência de regras. É a fragilidade da capacidade institucional para as aplicar, a deficiente articulação entre reguladores, a lentidão dos tribunais e a assimetria de recursos entre fiscalizadores e fiscalizados. Quando se reenquadra tudo isto em chave espiritual, corre-se o risco de deixar em segundo plano a parte mais difícil do trabalho jurídico: enforcement, capacidade institucional, coordenação entre reguladores e mecanismos reais de recurso.

O segundo ponto é mais delicado, e prende-se com aquilo a que a encíclica chama a integração dos limites. Leão XIV escreve, com toda a beleza da tradição cristã, que o Ser Humano não floresce apesar dos limites, mas muitas vezes através deles, e adverte contra uma cultura que reduz tudo o que limita, a doença, a velhice, o sofrimento, a mero defeito a corrigir.

O diagnóstico cultural é justo. Há, de facto, uma narrativa transumanista superficial que promete uma humanidade desencarnada e sem atrito, e essa narrativa merece o ceticismo que recebe. Mas o argumento, tal como construído, levanta uma dificuldade: muitos dos limites que a encíclica nos pede para integrar são exatamente aqueles que a medicina moderna, as tecnologias de acessibilidade e, sim, a própria IA estão a desmantelar, com ganhos concretos de dignidade.

Uma criança surda que ouve pela primeira vez através de um implante coclear, uma pessoa tetraplégica que comunica através de uma interface neural, uma doente oncológica cujo tratamento é desenhado com apoio de modelos preditivos, nenhuma destas pessoas vive necessariamente o seu limite como espaço de amadurecimento espiritual. Vive-o, muitas vezes, como sofrimento que finalmente alguém soube aliviar.

A linha que separa aceitar a finitude e resignar-se ao sofrimento evitável é mais fina do que o texto sugere, e merecia ser traçada com mais cuidado.

O terceiro ponto é o tratamento dos dados como bem comum. O instinto é o correto, e está em sintonia com aquilo que alguns dos melhores juristas da área vêm dizendo: dados gerados coletivamente, fruto da contribuição de muitos, não deveriam ser capturáveis privadamente sem limite.

Mas a encíclica afirma o princípio e detém-se aí. Não toca nas questões verdadeiramente difíceis: como compatibilizar este bem comum com os incentivos ao investimento de quem desenvolve as infraestruturas, como definir titularidade quando os dados resultam da interação entre utilizador, plataforma e modelo, como gerir transfronteiriamente um recurso que não conhece geografia.

Reconhecer um princípio é o início da conversa, não o seu termo. E, neste ponto, fica-se com a impressão de que o texto recua precisamente quando o trabalho começava a ficar interessante.

Por fim

Magnifica Humanitas é um documento sério porque não tenta vencer o debate por autoridade religiosa. Entra nele por outro caminho: obriga-nos a perguntar que ideal de “Pessoa Humana” se encontra escondido nas arquiteturas que estamos a construir, nos contratos que estamos a assinar, nos modelos que estamos a treinar e nas decisões que estamos a automatizar.

Esse é talvez o seu maior mérito. A encíclica não resolve os problemas técnicos, jurídicos ou institucionais da IA. Nem podia. Mas recorda que esses problemas nunca são apenas técnicos, jurídicos ou institucionais. São também perguntas sobre poder, verdade, vulnerabilidade, liberdade e responsabilidade.

Por isso, vale a pena lê-la, mesmo discordando. Sobretudo discordando. Porque a qualidade de um texto mede-se também pela qualidade das objeções que nos obriga a formular.

Leão XIV está a posicionar a Igreja como voz real neste debate, não como nota de rodapé. E deixa-nos uma pergunta que é menos teológica do que parece: estamos a construir mais uma torre de Babel, eficiente, brilhante e instável, ou estamos, com paciência, a reconstruir uma muralha comum onde ainda caiba a dignidade humana?