Antes de entrar nos temas mais espinhosos do nosso tempo, o Papa Leão XIV ajuda o leitor através de uma síntese cuidadosa e fiel dos ensinamentos centrais da doutrina social da Igreja, desde Leão XIII até aos seus predecessores mais recentes. Sublinha a importância da família, fundada sobre o matrimónio entre um homem e uma mulher. Descreve o caminho perigoso escolhido pelos transhumanistas. Refere-se à importância da propriedade privada, aos seus limites e aos limites da própria intervenção do Estado. Reconhece os desafios ambientais, mas não os transforma num tema central, muito menos numa ameaça existencial. A maioria dos analistas considerá-lo-á mais moderado do que alguns dos seus predecessores.

A sua prioridade última torna-se inequívoca à medida que a encíclica se desenvolve. Magnifica Humanitas é, no seu núcleo, um documento sobre o significado de ser humano numa época em que os sistemas mais poderosos alguma vez criados estão a ser concebidos, muitas vezes deliberadamente, para simular, substituir e, em certos casos, sobrepor-se ao juízo humano. Para aqueles de nós que passaram carreiras na intersecção entre filosofia moral, economia e segurança nacional, isto não é uma questão abstracta. A encíclica surge no mesmo dia do Memorial Day, quando nos Estados Unidos se recordam e homenageiam aqueles que fizeram o derradeiro sacrifício ao serviço em guerras conduzidas, pelo menos em princípio, para preservar a humanidade de males maiores. A encíclica é também publicada num momento em que as negociações destinadas a pôr termo à guerra do Irão – que ameaça a paz mundial – parecem encaminhar-se numa direcção positiva. Surge igualmente numa altura em que programas e sistemas de IA – como “Mythos”, ainda não disponível ao público, bem como outras arquitecturas de software – já estão a testar e, em alguns casos, a ultrapassar os limites que o documento procura estabelecer.

Uma mudança de paradigma na forma como pensamos a guerra

A abordagem da encíclica ao conflito começa com um diagnóstico que merece muito mais atenção do que provavelmente receberá no meio dos comentários sobre inteligência artificial. O Papa Leão XIV identifica aquilo a que chama “uma verdadeira mudança de paradigma” no discurso público: um inquietante renascimento da guerra enquanto instrumento da política internacional, acompanhado pela erosão dos próprios princípios éticos que outrora limitaram o seu uso. Os algoritmos, argumenta ele, não são aceleradores neutros. “Privilegiam o conflito e a confrontação”, condicionando gradualmente as populações a aceitarem a violência como algo normal, até inevitável. Combinado com aquilo a que chama “uma desconcertante perda da memória histórica”, à medida que desaparecem as testemunhas directas do Holocausto e das duas Guerras Mundiais, a encíclica adverte que “as decisões políticas correm o risco de ser tomadas apenas com base na força, sem qualquer consideração pelas consequências de longo prazo”.

Uma passagem em particular suscitará controvérsia significativa: a encíclica declara que a teoria da guerra justa “tem sido demasiadas vezes utilizada para justificar qualquer tipo de guerra” e encontra-se hoje ultrapassada. Os críticos aproveitar-se-ão disto, mas existe necessidade de um debate sério e erudito sobre a questão. Os princípios afirmados no Catecismo da Igreja Católica, aprovado por São João Paulo II, continuam válidos. O Papa, porém, preserva explicitamente “o direito à legítima defesa no sentido mais estrito”, e o seu argumento parece mais empírico do que doutrinal. O quadro conceptual da guerra justa foi invocado para justificar praticamente todos os conflitos do último século, incluindo, como observa a encíclica, citando Fratelli Tutti, “ataques preventivos ou actos de guerra que dificilmente podem evitar males e desordens mais graves do que o mal que se pretende eliminar”. Quando um enquadramento moral perdeu, na prática, a sua função moderadora, esse facto merece ser reconhecido.

Força sem limites — e o fim do monopólio estatal

A encíclica não evita as causas estruturais. A estreita ligação entre interesses económicos, aparelho militar e decisões políticas produz, argumenta, uma “nação armada”, na qual “a guerra surge como uma extensão natural da política, enquanto o mercado de armas se torna uma força autónoma que impulsiona as decisões militares”. Quem observou os mecanismos da aquisição militar a partir do interior reconhecerá facilmente esta dinâmica.

Quanto à dissuasão nuclear, a encíclica descreve a crença generalizada na sua indispensabilidade como “errónea”, uma posição que não deixará de ser contestada. Moralistas católicos sérios, de George Weigel ao falecido Michael Novak, defenderam cuidadosamente que a dissuasão, correctamente compreendida e estritamente condicionada, representa uma posição intermédia moralmente legítima num mundo em que a proliferação nuclear não pode ser revertida. Esse debate merece mais do que um simples parágrafo. Ainda assim, o alarme lançado pela encíclica assenta numa realidade observável: o desmantelamento dos acordos de redução de armamento, o desenvolvimento de armas tácticas miniaturizadas que tornam o uso nuclear aparentemente “mais viável”, e a entrada de novos actores nucleares num cenário já profundamente instável. Sobrevivemos às tecnologias da bomba nuclear e da bomba de hidrogénio, mas apenas através de um frágil equilíbrio de forças, instituições e constrangimentos morais que agora se encontram simultaneamente em erosão. Isso não é motivo para complacência. É precisamente uma razão para o tipo de atenção moral que o Papa exige.

A encíclica identifica igualmente algo que as instituições multilaterais continuam a ter dificuldade em processar: o fim do monopólio estatal da força. “Grupos jihadistas, milícias privadas e redes criminosas”, observa, actuam agora para além das fronteiras, “entrelaçando motivações ideológicas vagas com interesses económicos concretos, transformando a guerra num ‘modo de vida’ para gerações inteiras de jovens e crianças”. O objectivo já não é a vitória. É a perpetuação do conflito enquanto fonte de poder e rendimento. Este é o verdadeiro panorama da ameaça contemporânea. Grande parte do actual direito internacional não foi concebida para lidar com ele.

Armas autónomas e a rejeição dos agentes morais artificiais

É neste contexto mais amplo que deve ser lida a abordagem da encíclica à IA na guerra. “A crescente facilidade com que sistemas de armas autónomas podem ser utilizados”, escreve o Papa Leão XIV, “torna a guerra mais ‘viável’ e menos sujeita ao controlo humano”. Aquilo que é concebido para defesa pode rapidamente ser reutilizado para fins ofensivos. A fronteira entre protecção e agressão torna-se difusa. E, como afirma a encíclica com uma precisão que deveria fazer qualquer analista de defesa reflectir seriamente, a IA corre o risco de “transformar a defesa em previsão de ameaças e, assim, reduzir as vítimas a dados”.

A encíclica confronta depois directamente aquilo que poderá ser a ideia mais perigosa actualmente em circulação nos círculos da ética da IA e da defesa: o conceito de “agentes morais artificiais”, isto é, a noção de que as máquinas poderão exercer um juízo moral mais consistente do que os seres humanos, libertas das distorções da emoção, do preconceito e do interesse próprio. O Papa rejeita isto como um erro categorial: “o juízo moral não pode ser reduzido ao cálculo, porque envolve consciência, responsabilidade pessoal e o reconhecimento do outro enquanto pessoa”. Trata-se da antropologia tomista clássica aplicada a um dos debates mais consequentes do nosso tempo. “Nenhum algoritmo pode tornar a guerra moralmente aceitável.”

Três critérios que os decisores políticos não podem ignorar

Em vez de se limitar à condenação, a encíclica estabelece três critérios concretos para o uso da IA em contexto de guerra, critérios que merecem uma reflexão séria por parte de todos os envolvidos em política de defesa, aquisição militar ou direito militar.

O primeiro é a responsabilidade pessoal. “A cadeia de responsabilidade deve ser identificável e verificável; aqueles que concebem, treinam, autorizam e utilizam tecnologia devem ser responsabilizados pelas suas decisões.” Trata-se de um padrão mais exigente do que o actualmente previsto na legislação militar da maioria dos países. A encíclica aborda directamente o chamado “vazio de responsabilidade” debatido há anos pelos juristas: quando um sistema autónomo toma uma decisão letal, a resposta da encíclica é inequívoca: a responsabilidade não pode ser delegada na máquina.

O segundo critério diz respeito ao horizonte moral do juízo. “A velocidade e a eficiência nunca devem constituir a motivação suprema para decisões irreversíveis tomadas no contexto da guerra.” Grande parte do argumento estratégico em favor das armas autónomas assenta precisamente na sua vantagem de velocidade relativamente ao processo de decisão humano. A encíclica afirma que este argumento, no contexto do uso letal da força, é moralmente inadmissível. A pressão para decidir mais depressa do que a consciência consegue actuar não representa um ganho de eficiência antes representa uma evasão ética.

O terceiro critério é a protecção dos civis. “Qualquer tecnologia que facilite ataques sem ver o rosto dos seres humanos reduz o limiar moral do conflito.” Essa expressão – “sem ver o rosto” – possui um peso que ultrapassa largamente o seu contexto imediato. É no encontro com o rosto do outro que nasce a obrigação ética. Remova-se o rosto da decisão de atacar, e remove-se a mais fundamental contenção humana da violência.

Importa sublinhar que Magnifica Humanitas não é um documento ludita. A encíclica apela explicitamente a “incutir, tanto quanto possível, valores e recto juízo nos sistemas artificiais que construímos, para que possam contribuir para um ecossistema moral em que os seres humanos estejam mais aptos a escutar as suas próprias consciências”. Não se trata de um apelo a deixar de construir. Trata-se de um apelo a construir com uma arquitectura moral incorporada desde o início, precisamente o trabalho que os investigadores sérios na área da segurança da IA procuram actualmente realizar, de forma imperfeita mas urgente.

O que a encíclica não pode saber e porque isso importa

Existe uma limitação que a encíclica não pode ultrapassar, sem culpa própria: não pode envolver-se com aquilo que não viu. As decisões mais consequentes sobre IA e guerra não estão a ser tomadas em conferências académicas ou em artigos de política publicados. Estão a ser tomadas em ambientes classificados, por engenheiros, estrategas militares, profissionais de inteligência e empresários que, em muitos casos, avançam mais depressa do que qualquer enquadramento ético, religioso ou secular, conseguiu ainda acompanhar.

As preocupações levantadas em privado, no Departamento de Defesa, na comunidade empresarial e nos think tanks mais sérios, centram-se em questões que a encíclica identifica correctamente, mas não consegue responder plenamente: como manter uma cadeia verificável de responsabilidade quando a arquitectura decisória é proprietária e a classificação impede a divulgação? Como proteger populações civis quando adversários, estatais e não estatais, não reconhecem quaisquer constrangimentos morais equivalentes? Como travar uma corrida que nenhuma nação se pode permitir perder unilateralmente?

Estas não são objecções ao enquadramento moral da encíclica. São razões para o levar mais a sério, não menos. A lição da Rerum Novarum aplica-se aqui: a grande encíclica de Leão XIII não foi escrita na ignorância do capitalismo industrial. Foi informada por um envolvimento sério com economistas, reformadores sociais e profissionais que compreendiam por dentro a maquinaria da nova economia. O Padre Matteo Liberatore, figura central no desenvolvimento dessa encíclica, não escreveu os seus Princípios de Economia Política a partir de uma poltrona. O mesmo padrão deve aplicar-se hoje. Mas quem escreverá os princípios essenciais da inteligência artificial? Magnifica Humanitas é o primeiro e mais importante passo. O Papa convidou alguns dos líderes do sector para a apresentação do documento, mas criar uma verdadeira cultura de colaboração, dados todos os riscos envolvidos, não será fácil.

Durante estes últimos meses, tive o privilégio de ouvir relatos confidenciais do Chief Information Officer do Departamento de Defesa dos Estados Unidos, de engenheiros seniores de empresas líderes que utilizam IA nos seus esforços de segurança nacional, e de um advogado de primeira linha que foi obrigado a conhecer detalhes classificados para defender vítimas de abusos. Aquilo que testemunham em primeira mão deveria alarmar todos os que se preocupam – como o Papa Leão XIV claramente se preocupa – com a dignidade da pessoa humana enquanto fundamento da segurança nacional e pessoal.

Nada disto é inteiramente novo. Há vários anos, num jantar em casa de um dos fundadores de uma empresa líder no sector, perto de Silicon Valley, sentei-me com alguns engenheiros que trabalhavam em tecnologia de vigilância. Pareciam e falavam como personagens de The Big Bang Theory, brilhantes, sinceros e apenas moderadamente inquietos. A sua preocupação era simples: “Vendemos o software a um país que não o está a utilizar para bons fins.” Alguns membros destas empresas acreditam genuinamente que os sistemas de IA acabarão por substituir e ultrapassar os seres humanos, muito à semelhança de HAL 9000 em 2001: Odisseia no Espaço. Os enquadramentos morais que construirmos hoje, ou que falharmos em construir, determinarão se esse receio permanecerá apenas ficção científica.

Os pontos de vista expressos pelos autores dos artigos publicados nesta coluna poderão não ser subscritos na íntegra pela totalidade dos membros da Oficina da Liberdade e não reflectem necessariamente uma posição da Oficina da Liberdade sobre os temas tratados. Apesar de terem uma maneira comum de ver o Estado, que querem pequeno, e o mundo, que querem livre, os membros da Oficina da Liberdade e os seus autores convidados nem sempre concordam, porém, na melhor forma de lá chegar.