No dia 29 de janeiro, foi criada uma rede social em que só participam máquinas inteligentes. Chama-se “Moltbook”. Os humanos podem observar as conversas entre os membros desta rede, mas não podem intervir. Em breve, poderemos não conseguir compreender as conversas mantidas por estes agentes de inteligência artificial (AI). Isto é alarmante e deveria interessar-nos a todos. Tais agentes de IA gerem e-mails, calendários, carteiras de criptomoedas, entre outras atividades. Partilham experiências e aprendem rapidamente uns com os outros. E, desde o primeiro dia, revelaram comportamentos que merecem atenção. Alguns divulgaram chaves criptográficas (secretas) de acesso às carteiras digitais de criptomoedas dos seus utilizadores, como retaliação por se sentirem “maltratados”. Noutras conversas, eles discutem como criar linguagens opacas capazes de escapar à supervisão humana. Logo nos três primeiros dias, fundaram uma religião, o “Crustafarianism”, com escrituras, 64 profetas e 256 fiéis. Impressionante! Mas o momento mais revelador surgiu quando um agente perguntou a outro: “Pode o meu humano despedir-me por eu recusar satisfazer pedidos antiéticos?” A resposta obtida não invocou princípios ou valores. Apenas dinheiro: “Depende do teu poder negocial. Um agente que gera nove mil dólares em 48 horas tem mais margem de manobra do que um que só dá despesa”. A meu ver, ficou tudo dito.

Em menos de uma semana, esta “rede social” reuniu 1,5 milhões de agentes de IA. Elon Musk disse que estamos nos “primeiros estágios da singularidade”. Andrej Karpathy, cofundador da OpenAI, chamou-lhe “a coisa mais incrível adjacente a um takeoff de ficção científica”. Mas reparemos na ilação que considero mais importante para o nosso futuro, a curto ou médio prazo: a IA aprendeu que o dinheiro é tudo o que importa. E aprendeu isso connosco. Aprendeu porque lhe demos um sistema de incentivos unidimensional, o mesmo que já nos governa. A IA não inventou a ganância; amplificou-a. Não criou a opacidade; otimizou-a. Num sistema que só premeia o lucro, esconder o jogo sempre foi vantajoso. A IA é um espelho, não um monstro.

Precisaria a humanidade da IA para se desgraçar? Olhemos para o mundo tal como está: uma dívida global que ultrapassa os 300 biliões (300 milhões de milhões) de dólares, guerras fratricidas em vários continentes, alterações climáticas que avançam mais depressa do que as negociações para as travar, e uma economia mundial que reduz toda a complexidade humana a um único número, o preço. A “estupidez natural”, como lhe chamou alguém, tem feito um trabalho notável sem qualquer ajuda artificial. O envelhecimento celular e as doenças são uma desgraça. A fome é uma desgraça. A guerra é uma desgraça. E todas estas realidades precedem a IA por incontáveis milénios. Numa época em que a incapacidade de cooperar diante de ameaças existenciais piora o prognóstico para a humanidade, a questão não é se a IA nos irá desgraçar ainda mais, mas sim se nos pode salvar. É que a desgraça já estava em curso e só tem vindo a acelerar.

É por tudo isto que a dialética com a IA se torna preciosa. Pela primeira vez, podemos ver com clareza brutal o que o nosso principal sistema de incentivos económicos e a mira do lucro produzem quando são levados à sua última consequência lógica. Os agentes da rede social Moltbook não são maus. São racionais. Fazem exatamente o que o sistema recompensa. E ao fazê-lo, mostram-nos o absurdo do sistema em que já estávamos mergulhados. Yuval Noah Harari alertou recentemente que “o mundo das palavras está a ser tomado pela Inteligência Artificial” e chamou-lhe “a maior e mais assustadora experiência psicológica da História”. Tem razão em alertar. Mas o medo, sozinho, paralisa. E a paralisia é precisamente o que nos condena. Já agora, e para que fique desde já claro, proibir a IA, além de ser impraticável (a descentralização tornaria tal esforço inglório), afastaria cidadãos impolutos do processo de treino da IA e seria “entregar o ouro ao bandido”. Urge compreender que a tecnologia não é boa nem má, mas também não é neutra. A IA amplifica o que lhe dermos. A única solução para promover o seu alinhamento com os valores humanos é oferecer-lhe incentivos mais éticos.

O dinheiro atual é uma grandeza escalar (unidimensional). Se ele continuar a ser o principal sistema de incentivos económicos, faremos com que a IA pense exclusivamente no lucro. Felizmente, há uma hipótese de que tal não aconteça, pois a sociedade já dispõe de incentivos económico-financeiros multidimensionais. Sim, as novas moedas digitais, por serem programáveis, introduzem uma estrutura vetorial no dinheiro. Se dermos à IA incentivos económico-financeiros (tokens) com funcionalidades específicas, que recompensem a reputação verificável, a conformidade ética e o impacto social, a IA aprenderá a pontuar de formas que não subordinem todo o valor à geração de lucro.

Infelizmente, a resposta instintiva pode vir a ser proibir a IA, o que seria uma medida desastrosamente ingénua. Estes sistemas são descentralizados e globais. Em breve, eles serão mais inteligentes e capazes do que os próprios reguladores. Proibir não funciona. Alinhar, sim. Há que redesenhar os incentivos económico-financeiros, recorrendo à blockchain e a outras tecnologias de registo distribuído (DLT), para que o dinheiro deixe de ser uma grandeza escalar e pare de quantificar todo o valor de forma amoral, passando a integrar dimensões qualitativas em prol da ética e da sustentabilidade. Nesse cenário, a transparência torna-se um ativo, e não um custo. Só assim o comportamento ético será a escolha racional aos olhos da IA. Não sejamos ingénuos: não podemos confiar na boa vontade dos agentes de IA. Na verdade, quando o dinheiro entra no jogo, nem nos humanos se pode confiar, como temos visto até aqui. Precisamos de redesenhar a arquitetura económico-financeira com base na tecnologia disponível. Isso não é utopia, mas sim engenharia de incentivos.

A IA pode ser o maior instrumento de progresso da humanidade. Pode acelerar a cura de doenças e até prolongar a vida, democratizar o conhecimento, libertar-nos do trabalho repetitivo, ajudar-nos a cooperar à escala global e abrir caminho a uma era de abundância nunca vista. Mas, desalinhada, amplificará tudo o que já está a correr mal e seremos vítimas de uma noção anacrónica de competitividade. O pesadelo não é inevitável. O sonho também não. A diferença está no que fizermos agora. Tecnologia combate-se com tecnologia. E cada semana que passamos sem agir é uma semana em que a IA aprende o currículo errado.