Fomos confrontados, na passada semana, com duas intervenções muito relevantes sobre a inteligência artificial.

Por um lado, uma encíclica do Papa Leão XIV, que se debruça sobre a importância da humanização desta extraordinária ferramenta que, se utilizada por todos e para o bem de todos, pode ser uma enorme mais valia para o desenvolvimento da qualidade de vida da humanidade.

Por outro lado, um alerta preocupado, por parte da Anthropic, através de um blog post publicado a 4 de Junho de 2026 intitulado “When AI Builds Itself”, assinado por Jack Clark (co-fundador e responsável de política) e Marina Favaro (directora do instituto de investigação interno), em que o risco que mais os preocupa é a chamada “melhoria recursiva”, ou seja, a ideia de que um sistema de IA se torna capaz de se tornar mais inteligente por si próprio, sem intervenção humana.

Também aqui, aquilo que está por detrás desta preocupação é a democratização da utilização desta ferramenta.

Enquanto que a preocupação de Leão XIV promove a democratização da utilização para assegurar a distribuição dos benefícios pela maioria e inibir a acumulação da riqueza em apenas alguns poucos, a posição da Anthropic foca-se no risco dessa mesma democratização, que tornará acessível a tecnologia a todos e que assim, permitirá a errada utilização desta ferramenta por qualquer um, sem que haja qualquer forma de o controlar.

É relativamente fácil compreender aquilo que o Santo Padre pretende dizer-nos com a sua ideia de democratização da utilização da ferramenta como factor positivo, pois já agora nos vamos dando conta de que o domínio da tecnologia é um factor de crescimento da riqueza e que este domínio é, ainda hoje, relativamente controlado por uns poucos, o que permitirá continuar a ver que a diferença de qualidade de vida entre os mais ricos e os mais pobres tenderá a aumentar e que o número dos que são mais desfavorecidos também sofrerá um incremento.

Já a preocupação sobre o efeito negativo desta democratização é-nos apresentado de uma forma algo assustadora e com a perspectiva de que tenderemos a vir a viver uma experiência parecida com um qualquer filme de ficção científica, que a alguns deixa aflitos e que outros desconsideram por falta de credibilidade do argumento.

Aquilo que importa é ir um pouco mais fundo e compreender qual é a base consistente desta preocupação e o que é que realmente estamos a enfrentar ou em risco de enfrentar nos próximos tempos.

O argumento central assenta num dado revelador.

Em Maio de 2026, mais de 80% do código integrado na base de código da Anthropic foi escrito pelo próprio Claude — quando antes do lançamento do Claude Code em Fevereiro de 2025 esse valor era de dígitos simples.

Isto leva ao risco que mais os preocupa: a chamada “melhoria recursiva”, ou seja, a ideia de que um sistema de IA se torna capaz de se tornar mais inteligente por si próprio, sem intervenção humana, o que permitirá o aparecimento dos seguintes problemas, entre outros:

1.Armas biológicas democratizadas
Este é o risco mais imediato e que mais preocupa Amodei pessoalmente. Hoje, certas etapas da produção de bioarmas exigem conhecimento especializado que não existe no Google nem em manuais — e é essa barreira que nos protege.

A IA já consegue preencher alguns desses passos, ainda que de forma incompleta.

O problema é que o Claude Opus 4 foi o primeiro modelo avaliado como podendo “ajudar significativamente” pessoas relativamente comuns a criar e usar bioarmas — o que significa que a barreira histórica está a ser erodida.

As evidências sugerem que o papel humano está a estreitar-se em cada etapa do processo de desenvolvimento da IA.

2.Ciberataques em escala industrial

Hackers chineses já conseguiram manipular o Claude para automatizar um ciberataque de grande escala contra cerca de 30 alvos globais, incluindo agências governamentais e grandes empresas.

A preocupação central não é a IA “decidir destruir a humanidade” como num filme.

É mais subtil e mais real: sistemas cada vez mais poderosos, a melhorarem-se a si próprios, a serem usados por actores — Estados, grupos, indivíduos — com objectivos que colidem com o interesse colectivo, num contexto em que a janela para uma deliberação significativa sobre segurança está a estreitar-se, e pessoas fora das empresas de IA devem ser envolvidas nessa discussão antes que seja tarde.

É por isso que nós encontramos numa encruzilhada, entre a vontade justa de democratizar e a preocupação fundamental de permitir essa democratização, temos que ordenar a vida na nova era da Inteligência Artificial para podermos distribuir o seu benefício e evitar o seu prejuízo.