Nos últimos anos, tenho procurado pensar a inteligência artificial a partir de uma preocupação central: perceber o impacto que a tecnologia pode ter sobre a pessoa. A IA pode ser pensada teoricamente, mas não podemos ignorar que ela está presente na escola, no trabalho, na política, na comunicação, na infância, na guerra, na verdade pública e até na forma como cada um de nós se está a habituar a decidir, recordar, escrever, escolher e pensar. Por isso, a publicação da primeira encíclica do pontificado de Leão XIV, precisamente sobre a tutela da pessoa humana no tempo da IA, despertou-me imensa curiosidade.

O documento tem por título Magnifica Humanitas e foi assinado a 15 de maio, exatamente 135 anos depois da Rerum Novarum, de Leão XIII. Tal terá sido deliberado: assim como a questão operária obrigou a Igreja, no final do século XIX, a repensar a justiça perante a industrialização, também a IA é agora tratada – a meu ver, de uma forma muito mais inovadora e bem conseguida – como uma nova questão social, talvez a mais estrutural do nosso tempo. Não pretendo, nesta primeira leitura, fazer uma análise completa da encíclica, muito menos fechar respostas que o próprio documento parece querer deixar sob tensão. Irei, antes, assinalar um conjunto de perguntas que a encíclica ajuda a formular, em particular na linha das preocupações que tenho vindo a levantar nestas crónicas: que ideia de pessoa está a ser pressuposta, condicionada ou substituída pela tecnologia que estamos a construir?

A iniciativa papal é, em si mesma, de se saudar. O debate público sobre a inteligência artificial tem-se afundado numa espécie de vaivém previsível entre o deslumbramento tecnológico e o pânico civilizacional, como se a alternativa estivesse sempre entre entregar tudo à máquina e fugir dela para uma qualquer nostalgia analógica. Ora, a verdade é que a tecnologia avança mais depressa do que a nossa capacidade de avaliar, ou até da narrativa política disponível para a discutir, deixando a sociedade a correr atrás de um problema que, muitas vezes, ainda não sabe nomear. A entrada de uma instituição com dois milénios de reflexão sobre o que faz de nós humanos oferece a este debate uma lentidão, uma espessura e uma exigência moral que só pode ser vista como muito útil.

Como ponto prévio, coloco eu próprio uma questão inicial, essencial para a análise do problema central da IA: a pessoa precede a máquina, ou estamos a aceitar, quase sem nos aperceber, que a máquina passe a definir a pessoa? A forma como a IA está a ser desenvolvida e comercializada torna esta questão inevitável. Não estamos perante ferramentas neutras, colocadas à disposição de utilizadores livres, mas perante sistemas desenhados para antecipar comportamentos, orientar escolhas, substituir mediações, modular preferências e reorganizar a experiência humana a partir de arquiteturas opacas. Ora, se os cidadãos dos séculos XIX e XX enfrentaram Nações e Estados com pulsões totalitárias, no século XXI, o inimigo parece estar nos grandes conglomerados tecnológicos, aliados a Estados, que sonham, num registo fabiano, cada um à sua maneira, com o seu “homem novo”: mais eficiente, mais previsível, mais integrado, mais mensurável, mais dependente e, no limite, mais dócil perante o ambiente algorítmico que o envolve.

Leão XIV – e quem pensou esta encíclica, com ele – parece ter percebido bem a dinâmica da não-neutralidade da técnica algorítmica, afirmando com clareza que a IA não é apenas uma ferramenta disponível para usos bons ou maus, como se a moralidade surgisse apenas no momento da utilização. Pelo contrário, defende-se que há uma carga ética inscrita no desenho dos sistemas, nos dados que os alimentam, nos critérios que os otimizam, nos incentivos económicos que os moldam e nas finalidades políticas que os tornam úteis. Daí o forte eixo colocado na responsabilidade sobre todos os que estão do lado da conceção da tecnologia: os que a desenham, a financiam, ou os proprietários dos modelos, e a exigência de formas reais de transparência e auditoria. Leão XIV é também feliz quando coloca o princípio clássico do destino universal dos bens sob tensão perante novas formas de propriedade: patentes, algoritmos, plataformas, dados, infraestruturas computacionais. Pois, até prova em contrário, quem domina estas camadas controla também uma parte crescente da vida social.

A encíclica papal discorre, ainda, sobre a verdade como bem comum, descrevendo com precisão o ecossistema em que a inflação de textos plausíveis se cruza com a manipulação algorítmica do imaginário coletivo, tornando cada vez mais difícil distinguir entre facto, ficção, interpretação, propaganda e simples bullshit estatisticamente elegante. Esta é, no meu entender, uma das passagens mais fortes do documento, sobre o qual tenho escrito extensamente aqui no Observador, porque retira o problema do plano meramente individual – “ensinem as pessoas a verificar melhor” – e o coloca onde ele deve estar: no plano sistémico de uma ecologia da comunicação. Se a informação que recebemos é filtrada por arquiteturas opacas, otimizada para capturar atenção e multiplicada por máquinas capazes de produzir verosimilhança em escala industrial, então a decadência da verdade já não é apenas uma falha de literacia – embora também o seja -, mas uma crise institucional. A citação de Hannah Arendt, retirada de As Origens do Totalitarismo, é talvez a mais cortante de toda a encíclica. Recorda Leão XIV que, para Arendt, os súbditos ideais do regime totalitário são “as pessoas para quem já não existe a distinção entre o facto e a ficção, nem entre o verdadeiro e o falso”. Escrita em meados do século XX, à luz da experiência dos totalitarismos europeus, a frase ganha, lida em 2026 e à luz do ecossistema informacional amplificado pela IA generativa, uma atualidade incómoda.

A questão educativa recebe também uma atenção particularmente feliz. Leão XIV defende algo que tenho insistido em várias das minhas crónicas anteriores: a higiene da atenção, a leitura demorada e a experiência do silêncio como condições da formação humana, argumentando com firmeza que os pais, sozinhos, têm enormes dificuldades em resistir a modelos de negócio que monetizam a distração dos seus filhos. Sejamos claros: não há família, por mais consciente que seja, que consiga competir isoladamente com empresas cujo sucesso depende de capturar, prolongar e rentabilizar a atenção das crianças. Daí que valha a pena dar ouvidos à proposta de uma aliança entre política, escola e família, com intervenção legislativa que estabeleça limites etários, responsabilize os fornecedores de serviços e proteja a infância de uma exposição já associada, com forte evidência empírica, à degradação do sono, da concentração e da regulação emocional.

A forma como a encíclica aborda a concentração de poder tecnológico é mais polémica, e usa termos politicamente afiados, mas merece atenção. Logo na introdução, o Papa observa que esse poder tem hoje um rosto predominantemente privado, transnacional, financeiramente colossal e, por isso mesmo, mais difícil de discernir, governar e orientar para o bem comum. No entendimento de Leão XIV, estamos perante atores capazes de definir standards, capturar talento, influenciar Estados, reorganizar mercados de trabalho, condicionar a produção de conhecimento e decidir, em larga medida, que tipo de inteligência será amplificada na vida quotidiana. Daqui decorre uma assimetria epistémica e económica que alimenta o risco de uma sociedade darwinista, em que uma minoria capta os ganhos de produtividade, poder e acesso cognitivo, enquanto camadas largas da população empobrecem material, profissional e simbolicamente.

Há ainda temas em que a Magnifica Humanitas avança por terreno menos percorrido. A militarização da IA é tratada com uma frontalidade pouco habitual, talvez porque, nos últimos meses, o mundo ganhou consciência de que a corrida ao armamento se tornou, e muito, algorítmica. Leão XIV diagnostica na IA um risco de erosão dos princípios éticos que historicamente limitaram o uso da força, desde a proporcionalidade à responsabilidade humana pela decisão letal. Apela, por isso, a que se “desarme a IA”, expressão deliberadamente forte, que articula a recusa da competição cega entre potências com a defesa de regras partilhadas. Para lá da ingenuidade pacifista que em geral acompanha as intervenções papais nas últimas décadas, fica a tentativa de assinalar a constatação de que uma tecnologia capaz de acelerar decisões de vida e morte não deveria ser entregue, apenas, à lógica do deployment competitivo, devendo ser alvo de concertação global, algo a que assistimos, nas últimas décadas, no domínio das armas nucleares.

Leão XIV quis também assinalar o lado mais negro da IA, e que nas sociedades mais desenvolvidas fingimos que não existe: o trabalho invisível que alimenta os grandes modelos. A encíclica chama a atenção para os milhões de pessoas que etiquetam dados, classificam imagens, moderam conteúdos violentos, limpam bases de treino e sustentam, muitas vezes em condições precárias, a aparência quase mágica da inteligência artificial. Faz ainda referência aos adolescentes que extraem terras raras em ambientes brutais, e as populações cujos dados sanitários, genéticos e demográficos são recolhidos em processos de extração silenciosa. Leão XIV chama a isto “novas escravaturas”, estabelecendo um paralelo eloquente com a condenação universal da escravatura formulada por Leão XIII. A expressão é dura, mas talvez esta dureza seja importante, já que a propaganda em torno da IA faz tudo para direcionar o debate e evitar a discussão dos temas mais desconfortáveis. Porque por detrás da leveza de um output muitas vezes fútil e apenas divertido há, demasiadas vezes, uma cadeia pesada de corpos, minas, centros de dados, eletricidade, cansaço e vulnerabilidade.

O capítulo sobre a custódia do humano é, também, relevante, ao observar que, onde o algoritmo vê apenas uma correção a aplicar, o erro humano abre espaço à transformação. Diz-se muito em poucas palavras. O erro, a hesitação, a incompletude e a lentidão são, para lá das questões do desempenho, lugares de maturação, arrependimento, aprendizagem e liberdade. Esta é a diferença essencial entre cálculo e juízo, entre otimização e sabedoria (tema da minha última crónica), e responsabilidade pessoal. A encíclica desenvolve esta intuição na chave teológica do “mais que humano” cristão, a partir da graça, mas a sua força não se esgota aí. Mesmo um leitor sem fé reconhecerá nela a defesa de uma certa fricção intelectual, sem a qual a pessoa se torna apenas um sistema mais lento à espera de ser substituído.

Talvez, em última análise, seja esse o serviço mais consequente que a Magnifica Humanitas presta ao debate público: obrigar-nos a sair do plano binário e a fazer perguntas melhores. Não se trata, apenas, de questionar se a IA é boa ou má, inevitável ou perigosa, libertadora ou ameaçadora. Mas sim, de perguntar quem a desenha, quem a financia, quem a compreende, quem a controla, quem fica de fora, quem paga os seus custos invisíveis e, acima de tudo, que ideia de pessoa vai sendo inscrita, silenciosamente, nas suas arquiteturas. A tecnologia pode ampliar a inteligência, acelerar descobertas e aliviar tarefas duras e repetitivas. Mas só será verdadeiramente humana se continuar subordinada àquilo que nenhuma máquina pode custodiar por nós.

O futuro da IA passa também pela ideia de pessoa que estamos dispostos a defender.