Um dos meus textos preferidos sobre inteligência artificial generativa apareceu há uns anos no Wall Street Journal, escrito por Henry Kissinger, Eric Schmidt e Daniel Huttenlocher. Três autores diferentes, vindos de esferas diferentes, alertavam que a IA generativa representa “um desafio filosófico e prático numa escala não vivida desde o início do Iluminismo.” Em 1784, com a pergunta “O que é o Esclarecimento”, Kant definiu o Iluminismo com uma frase amplamente conhecida: Sapere aude – “Tem a coragem de te servir do teu próprio entendimento”. O Iluminismo assentava na crença de que a razão humana podia compreender o mundo passo a passo, de acordo com um método que avançava do problema para a hipótese, da hipótese para a verificação e da verificação para o conhecimento. A IA generativa é, no seu modo de operar, distinta: produz respostas sem um método visível; as etapas são fracionadas em segundos, as conclusões não obedecem a premissas claras. Uma grande “caixa negra” que, para estes três autores, adianta mais o “conhecimento humano” do que a “compreensão humana”. “A ciência iluminista acumulava certezas”, escreveram; “a nova IA gera ambiguidades cumulativas.”

No início desta semana, ao publicar a encíclica “Magnifica Humanitas” – “Magnífica Humanidade” -, o Papa Leão XIV parece querer responder ao vazio da ambiguidade que Kissinger e os seus co-autores identificaram: a ausência de uma liderança filosófica capaz de explicar e orientar a relação entre o ser humano e a máquina. Kissinger, Schmidt e Huttenlocher advertiram que a IA ameaça o projeto iluminista, porque se desenvolve em contraciclo com o método, o processo, o raciocínio científicos. Mas o Papa vai mais longe porque, se a IA generativa consegue simular conhecimento, sabedoria ou consciência, o problema não está na epistemologia do Iluminismo mas no que significa ser pessoa.

A encíclica de Leão XIV funciona, assim, como uma tentativa de recuperar, pela via teológica, aquilo que o Iluminismo secular construiu pela via da razão: a consciência como fundamento da dignidade humana. Kant pôs a autonomia racional no centro da ética moderna. Leão XIV coloca a irrepetibilidade da pessoa – na sua identidade, fragilidade, imperfectibilidade – no centro da sua resposta à inteligência artificial. Para o Papa, há domínios da vida humana em que a delegação às máquinas é simplesmente inadmissível, qualquer que seja o nível de precisão do sistema. Magnífica humanidade, perfeita desumanidade.

O Papa não estava sozinho na apresentação da encíclica. Ao seu lado, na Sala do Sínodo, estava Chris Olah, co-fundador da Anthropic, a empresa que desenvolve o Claude (um modelo de IA que, pessoalmente, me espanta todos os dias pelo seu poder de inferência e de construção). Olah aproveitou para fazer uma grande autocrítica e para apelar aos “críticos informados” que digam às empresas onde estão a errar.

Estarão os críticos em condições de o fazer? Há uns tempos, depois de ler um conjunto de textos jornalísticos e académicos que questionavam a autoproclamada “constituição” da Anthropic, perguntei ao Claude o que é que ele achava daqueles textos. Respondeu-me várias coisas interessantes, sempre com um certo distanciamento analítico. Insisti que os textos eram sobre o próprio modelo, sobre o próprio Claude, e perguntei se este teria a distância suficiente para ensaiar uma análise consciente dos argumentos. A resposta do Claude pareceu-me memorável: reconhecendo que não dispõe de “consciência”, afirmou que era capaz de produzir uma “aparência” de introspeção e responsabilidade. Mas acrescentou o seguinte: “Um sistema que simula restrição não é o mesmo que um sistema que esteja realmente restringido”.

Frase fascinante. Mas deixa uma dúvida: de onde vem este poder de simulação? No texto de 2023 – que já parece na pré-história – Kissinger previu que “a chegada de um instrumento aparentemente omnisciente e incognoscível, capaz de alterar a realidade, pode desencadear um ressurgimento de religiosidade mística.” Era um aviso sobre o perigo de um novo obscurantismo, desta vez tecnológico, a fazer lembrar o cenário antecipado por Frank Herbert em Dune, escrito nos anos 60: aí, a resposta da humanidade à dominação pelas máquinas não foi filosófica nem política, mas uma jihad mística, isto é, uma guerra santa contra os “cérebros electrónicos”. O que emergiu do outro lado não foi o Iluminismo recuperado, mas uma nova ordem assente na sacralização da mente humana. Creio que “Magnifica Humanitas” recusa ambos os destinos, tanto o da rendição como o da condenação tecnológica e mística. A sua proposta é, acima de tudo, a preservação da consciência.

“Na era da inteligência artificial”, escreve Leão XIV, “é nosso dever urgente permanecer profundamente humanos.” Não sei se é pouco, ou muito. Sei que é, por enquanto, o melhor que temos.