Frank Pasquale ainda tem “esperanças otimistas para o futuro da inteligência artificial (IA)”, mas defende que o atual modelo de “leis, regras e incentivos”, incluindo os económicos, não está a ser suficiente para um uso benéfico da tecnologia.

O norte-americano, de 52 anos, é especialista em direito de IA, algoritmos e aprendizagem automática. Depois de passar pela Universidade de Maryland e pela Brooklyn Law School, dá agora aulas de direito na Universidade de Cornell, em Nova Iorque.

O professor universitário passou esta semana por Lisboa para uma conferência do Centro de Investigação do Instituto de Estudos Políticos (IEP) e pelo Laboratório Digital de Ética da Católica, dedicada aos desafios da IA, em particular dos agentes. Uma tendência que, admite em entrevista ao Observador, é-lhe “difícil de assimilar”.

Pasquale é autor de dezenas de artigos científicos sobre as consequências dos algoritmos, da robótica e da IA. Tornou-se uma voz conhecida no panorama do direito tecnológico quando, em 2015, publicou o livro The Black Box Society, onde alertou para as consequências sociais negativas dos algoritmos, se usados para determinar quem tem acesso a crédito, vagas de emprego e muito mais.

Nos últimos tempos, Frank Pasquale tem também dado atenção ao tema dos chatbots de IA, como o ChatGPT, Claude ou o Gemini. “Temos de parar de pensar nestas ferramentas de IA como pessoas ​​e começar a vê-las mais como produtos e entretenimento”, sublinha. O especialista considera “perturbador” o “vício de uma dimensão emocional afetiva com o ChatGPT”.

“As pessoas cujos textos estão a treinar a IA deveriam ter uma parte dos lucros”

Antes de mais, de onde vem o seu interesse pelos temas dos algoritmos e robótica?
Acho que começou tudo com o meu primeiro artigo, que foi escrito em resposta aos transhumanistas.

Quando é que isso foi?
Em 2002. Estava muito interessado nesta ideia dos transhumanistas, que sentiam que o ser humano se estava a tornar obsoleto numa perspetiva evolutiva. Acho que o curioso é que isto era uma tendência nos anos 90.

A ideia de ciborgues, por exemplo?
Sim, algo nessa linha. Essencialmente a ideia de que o corpo era um de muitos substratos em que a mente podia ser posta. Algumas pessoas teriam a mente num corpo, mas outras poderiam fazer download da mente, carregá-la para um computador… Como na série Westworld ou Altered Carbon. Comecei a pensar ‘bem, se aquilo fosse verdade, tinha de ficar muito rico’ — porque seria a única forma. Mas depois percebi que não era verdade (risos). Tentei explicar nesse primeiro artigo as ideias de mortalidade e o porquê de as pessoas pensarem que iam descarregar a mente para um robô — que não era verdade, porque o que se podia descarregar era uma gravação, ou algo do género.

Passados seis ou sete anos, estava a trabalhar em direito, tecnologia e propriedade intelectual e fui a uma conferência sobre motores de pesquisa. E era fascinante que nessa conferência havia uma celebração destes produtos, porque toda a gente sentia, em 2006 e 2007, que aquilo representava um avanço incrível para o conhecimento. De facto representava, mas eu sentia que ninguém estava a considerar o lado negativo. Fiz 30 páginas de notas nessa conferência sobre todas as desvantagens que previa que surgiriam à medida que mais poder se concentrasse nos motores de pesquisa.

E acertou nessas desvantagens?
Acho que acertei em metade. Muitas das coisas que me preocupavam aconteceram mesmo, foi interessante. A partir daí escrevi um livro chamado Black Box Society, em 2015.

Enquanto o escrevia muitas pessoas diziam, ainda no início da década de 2010, que os computadores iriam tirar o emprego a toda a gente. Bastaria gravar em vídeo e registar o que as pessoas fazem em resposta a diferentes estímulos e programar um computador para fazer a mesma coisa. Pensei ‘ok, esta é uma forma preocupante de fazer as coisas’, em particular porque as pessoas diriam que, se a máquina falhasse uma vez, bastava dizer-lhe onde falhou e isso seria corrigido na próxima versão. Com o tempo, iria melhorando cada vez mais.

Refleti durante cinco anos se seria mesmo possível substituir todo o trabalho humano apenas pela observação. O interesse no livro e na robótica levou-me a escrever outro livro, New Laws of Robotics [Novas leis da robótica], comecei a escrever muito sobre IA. Foi assim que me interessei pelo assunto — ao início era um interesse muito intelectual. Mas também me interessei porque o meu pai trabalhava de forma algo informal numa fábrica. Sentia que todos estes empregos estavam a ser automatizados ou transferidos para o estrangeiro. E as mudanças que isso provocou na minha família deixaram-me muito interessado ​​em economia e tecnologia.

E como vê o tema do trabalho hoje em dia?
Acho que é muito importante repensarmos a forma como o valor é alocado. Em termos de quem está a treinar a IA e do que a IA depende. Por exemplo, penso que o trabalho que é investido na escrita de textos deveria ser valorizado. As pessoas cujos textos estão a treinar a IA deveriam ter uma parte dos lucros. Esse é um aspeto da questão. Em muitas áreas, vejo com bons olhos a automatização, em particular nas que envolvem trabalhos difíceis, sujos e perigosos. Por exemplo, mineração, agricultura em grande escala, transportes, logística, etc.

Como é que vê a teoria de um “apocalipse do emprego” e de a IA ​​substituir toda a gente? É uma visão exagerada?
Sim, acho que é uma visão exagerada. Costumo dar o exemplo de um radiologista, que interpreta radiografias. Há dez anos, as pessoas diziam que este trabalho estava extinto porque uma IA conseguiria interpretar os dados muito melhor do que um humano. E é verdade que, muitas vezes, faz um trabalho muito bom.

Mas o que acontece é que outras formas de IA criam imagens mais ricas. Em vez de uma radiografia, há a ideia de volume, obtém uma imagem 3D, uma imagem muito densa de um osso. A questão passa a ser ‘ok, como interpretar isto?’. São dados novos. Precisamos da opinião de muitos profissionais para dizer como interpretar, o que significa a nível clínico, como falar com um doente.

Acredito que existem muitas áreas em que poderíamos ter mais empregos, como a educação, o jornalismo, a enfermagem e em tantos outros campos, por causa desta explosão de informação e da necessidade de ensinar as pessoas sobre o que é bom e o que é mau, o que é útil ou não, o que é tendencioso e o que é imparcial. São funções humanas muito importantes que não podem ser externalizadas para a IA. Não se pode simplesmente dizer: “Deixem que a IA faça isso”.

Outro ponto é que muitos destes empregos, na prática, são ocupados por pessoas que detêm um certo nível de poder sobre a sociedade, certo? Um professor decide o que ensinar, um oficial militar decide como planear um ataque, a polícia decide como combater o crime. São decisões políticas muito importantes e não se pode apenas deixar que uma empresa, principalmente se for uma empresa distante, decida este tipo de coisas.

Existem empresas que fabricam robôs de segurança nos EUA e na China. Seria muito imprudente e uma espécie de erosão da democracia dizer só “vamos despedir a maioria dos nossos polícias ou seguranças e deixar que as pessoas nos EUA ou na China decidam como lidar com roubos, distúrbios ou coisas do género”. Estes são exemplos de empregos que, na minha opinião, têm um futuro promissor.

Outros exemplos são os trabalhos de conexão. Muitas profissões consistem em ligar pessoas que desempenham outras funções: um designer de experiência do utilizador liga designers e engenheiros de software num projeto; um enfermeiro num hospital liga o doente a médicos, a especialistas, a um plano de alta, centros de reabilitação, etc. Mesmo que se pudesse automatizar todas as tarefas relacionadas com estes trabalhos, o trabalho de ligação seria ainda assim importante.

Voltando à ideia da “sociedade de caixa negra”, como menciona no livro [black box é a expressão usada para expressar o desconhecimento sobre como funcionam os sistemas de IA a nível interno]. Há mais de dez anos alertou para as consequências de um algoritmo ditar o acesso a trabalho, a financiamento, cuidados de saúde. Em 2026, como vê a situação?
Uma vez dei uma palestra chamada “Da Caixa Negra ao Buraco Negro” — acho que é aí que estamos. A ironia de toda a situação é que criticava os motores de busca há 20 anos — porque tinham muitos enviesamentos e problemas — mas são muito mais transparentes do que a IA generativa. O que nunca previ foi o grau de descentralização cognitiva, talvez até de preguiça cognitiva, de se querer uma resposta sem saber de onde vem ou em que é que se baseia. Como professor é algo que me preocupa cada vez mais. Em vez de os problemas da caixa negra serem resolvidos estão a tornar-se maiores.

Elogios dos chatbots “não passam de apego emocional barato”

A nível social, considera que existe consciência suficiente desta ideia de black box? Hoje em dia, as pessoas parecem confiar cegamente em informações dadas pelo ChatGPT ou pelo Gemini, como se fosse a resposta final. As pessoas estão cientes das consequências da IA?
Não. Acho que provavelmente existe uma percentagem da população — as pessoas que leem jornais de forma regular, que veem os noticiários televisivos — que tem esta âncora na realidade, que as mantém informadas sobre os problemas da tecnologia. O problema é que há um grupo cada vez maior de pessoas que não tem este tipo de referência nos media tradicionais ou em fontes validadas — ou que nem sequer confia nos media. 

O mais perturbador é o vício de uma dimensão emocional afetiva com o ChatGPT. O que este chatbot tenta fazer é criar uma relação pessoal e mencionar interações passadas. Uso o ChatGPT com frequência para várias tarefas de pesquisa — e, claro, procuro sempre links e valido a informação. Mas o ChatGPT tenta fazer referências a conversas anteriores ou dizer ‘é uma pergunta muito inteligente’, ‘que perspicaz’. Tudo isto não passa de apego emocional barato.

Num mundo com tanta solidão, alienação, fragmentação social e falta de coesão social, rapidamente se torna algo que as pessoas valorizam. E aí podem valorizar mais a resposta no chat que tem como intuito lisonjeá-las e reforçar as suas ideias preconcebidas do que a de uma pessoa distante que percebe o que se está a passar. É preciso muita educação nestes temas.

É por isso que fala sobre o aumento de “pessoas falsas e de emoções artificiais”?
É mesmo, porque acho que é um problema enorme. A IA generativa é tão boa a criar imagens de pessoas e animações que, se tivermos um pivô de telejornal feito com IA ou atores de IA está a criar-se um apego a algo que é muito frágil e manipulável.

Há estudos, sobretudo nos EUA, que revelam que os adolescentes e até os adultos estão a usar chatbots de IA para terapia, para conversar, dizendo que os vêem como um amigo, em alguns casos como um parceiro amoroso. Atribuir características humanas a uma máquina é uma forma defeituosa de interagir com a IA?
Sim, é uma forma de engano. A IA está a enganar o utilizador ao fazê-lo pensar que é uma pessoa. Se se questionar, se se perguntar o que se passa, a pessoa pode responder que sabe que a IA é um computador, que não é uma pessoa real. Mas também há quem diga: ‘Oh, não, é apenas uma forma diferente de materialização’. O que nos leva de volta à nossa primeira questão, certo [a da transumanidade]? Uma mente humana e um corpo humano estão intrinsecamente ligados, entrelaçados e não podem ser separados.

E esta é a natureza fundamentalmente enganadora. Temos de analisar a questão do cui bono em latim — para quem é que é bom? O que está a acontecer é que estas IA estão a ser vendidas como pessoas apenas para manter os utilizadores a usá-las mais. As pessoas cansaram-se das redes sociais, estão cansadas ​​de outros serviços online, até dos vídeos curtos. E agora é como se [a indústria] dissesse ‘ok, precisamos de algo novo’.

De um novo mercado e de uma nova forma de ganhar dinheiro?
Sim. Trata-se de criar mais tempo de ecrã, mais tempo de interação, mais tempo para que sejam apresentados ou sugeridos anúncios. Essa é a motivação por trás. E, para mim, é também uma divisão fundamental: todos estes agentes de IA que são populares são de empresas com fins lucrativos. E eu sei que a OpenAI diz que não é assim, mas na prática quer obter lucro. Existe esta motivação que, na sua essência e desde o início, impede que se assemelhe a uma autêntica interação humana. Acho que este é um problema real.

Processos judiciais “são importantes para que empresas sejam responsabilizadas” pela conduta dos seus chatbots

Já há vários processos judiciais contra a OpenAI, a Google também, apresentados por pais de pessoas que se suicidaram após interagirem com uma IA, que acreditaram que o chatbot era seu amigo, namorada. O que pensa sobre estes processos? Poderá haver mais casos do género no futuro?
Sim, haverá muitos mais. Acho que estes processos judiciais são uma forma de melhorar o design do produto. Esse é outro ponto importante: temos de parar de pensar nestas ferramentas de IA como pessoas ​​e começar a vê-las mais como produtos e entretenimento.

Existem formas de garantir que, quando a conversa toma um rumo perigoso, há um humano que é chamado a intervir e a monitorizar o que está a acontecer. Em muitos destes processos judiciais, havia situações em que o chatbot dizia a um adolescente “não contes aos teus pais sobre a nossa conversa. É privada e só para nós”. E quando os adolescentes perguntavam como seria a vida após o suicídio foram dadas descrições detalhadas ou um “vamos encontrar-nos”, algo do género. Acho que, neste momento, já temos normas suficientes para que isto seja evitável.

Ao início, alguém poderia dizer ‘bem, quem poderia saber que isto ia acontecer’. Por outro lado, mesmo no início, já se defendia que deveria haver consciência de como os chatbots podem desviar-se de uma interação saudável com o utilizador.

Os processos judiciais são importantes e existem mesmo fundamentos para [as empresas] serem responsabilizadas por produtos defeituosos e outras formas de responsabilidade quando estes chatbots assumem este tipo de propósito. As pessoas têm direito à liberdade de expressão, mas não creio que as máquinas tenham. Precisamos de ser muito firmes e dizer ‘isto é um produto e precisam de concebê-lo de forma segura’.

https://observador.pt/2025/08/27/adolescente-suicidou-se-nos-eua-apos-falar-durante-meses-com-o-chatgpt-sobre-tema-pais-estao-a-processar-a-openai-que-ja-anunciou-mudancas/

Mas, falando por exemplo do ChatGPT, a OpenAI anunciou o serviço como supostamente tendo limites de segurança, desde o início.
Talvez tenham evitado mais mortes — e isso é bom.

Mas é necessário haver um processo para que estas empresas sejam responsabilizadas? Não deveriam pensar em proteger os seus produtos desde o início?
Sim, são precisas as duas coisas. É preciso haver regulamentação. Eu propus, em conjunto com um advogado europeu, um sistema de licenciamento. Defendíamos que quando um sistema de IA fosse suficientemente poderoso ou muito disseminado, deveria ser avaliado pelas autoridades e depois licenciado. Acho que é disso que precisamos. Tal como uma pessoa não pode conduzir sem carta de condução ou um carro não pode andar na estrada sem ser aprovado, uma empresa não poderia lançar a sua IA sem passar por este processo. Estes modelos de IA são ainda mais poderosos e podem causar mais danos do que os carros, precisam de um tipo semelhante de avaliação antes de estarem disponíveis.

Mas quem deveria atribuir essa licença? Seria a nível governamental? Ainda esta quinta-feira Donald Trump adiou assinar uma ordem executiva para a IA por temer o excesso de regulação. Quem deve conceder estas licenças, no seu modelo?
Focando-nos apenas na Europa, penso que existem entidades identificadas pelo AI Act ​​que são responsáveis ​​pelo licenciamento de produtos eletrónicos e outros. Reconheço que representa um grande desafio para eles — precisariam de aprender muito para contratar bons colaboradores que percebam de tecnologia. Mas creio que já exista uma infraestrutura de licenciamento de produtos.

Não antecipo um processo complexo ou de longo prazo. Quem o definisse poderia dizer que a análise seria feita num dia, em três dias, em cinco dias, seja o tempo que for. Seria feita uma bateria de testes, desde um cenário de ameaça de um adolescente suicida, o de um pedido para uma arma nuclear ou arma biológica. Ou perceber se ajudaria a escrever discursos de ódio, por exemplo.

Mas acho que é muito importante evitar a monocultura da IA. Uma das minhas maiores preocupações é que, se todos estiverem a utilizar a mesma IA, toda a gente comece a pensar da mesma forma, como na série Pluribus da Apple, onde o mundo inteiro pensa da mesma forma, exceto 11 pessoas.

https://observador.pt/2026/05/21/trump-adia-ordem-sobre-ia-por-receio-de-prejudicar-lideranca-face-a-china/

É uma preocupação para si que as mesmas empresas que, há alguns anos foram acusadas de serem monopólios, de disseminarem desinformação ou de não protegerem a privacidade dos seus utilizadores, sejam as mesmas empresas que estão na vanguarda desta tendência da IA generativa?
Sim, é preocupante. Por um lado, há aspetos da IA que precisam de um enorme poder de computação e admito que estas empresas, que são as mesmas que armazenaram um enorme capital, são quem tem essa capacidade. Ao mesmo tempo, é necessário ter sempre alternativa pública.

Uma das coisas que temos de considerar é o que é que significa vivermos numa sociedade em que o governo não consegue mobilizar capital ao mesmo nível que as empresas? Tal significa, creio eu, que estamos a deixar que funções essenciais se percam para o domínio corporativo. Quando as coisas se tornam tão importantes é preciso haver alguma alternativa pública.

É preciso dar muita atenção a este tema. É o papel das leis da Concorrência, do direito à privacidade atuarem nesse sentido. Todas estas áreas precisam de ser consideradas, porque, caso contrário, podemos imaginar um mundo bipolar em que as pessoas optam por utilizar a IA americana ou a IA chinesa. Não creio que seja o melhor mundo em que queremos viver. Queremos viver num mundo onde existam muitas formas diferentes de IA. E talvez, numa camada muito fundamental, tenhamos a infraestrutura computacional fornecida por grandes fornecedores, mas regulada como um serviço público.

“Nunca confiaria todos os meus ficheiros de computador a um agente de IA”

Como é que vê esta tendência dos agentes de IA, com as empresas a promover a ideia de toda a gente ter um agente que trabalha 24 horas por dia, 7 dias por semana por eles?
É difícil para mim assimilar, talvez porque a minha vida é muito simples (risos). Só consigo pensar no caso das compras… Mas será que preciso mesmo de um agente de IA para descobrir como fazer isto por mim? Mas consigo imaginar contextos específicos em que um agente de IA seria muito útil. Acho que nunca confiaria todos os meus ficheiros de computador a um agente de IA. Ou nunca diria algo como ‘observa-me durante 24 horas e tenta agir como eu’. São coisas em que gostaria de impor limites.

Outro problema é saber se os agentes de IA vão acabar por sobrecarregar a vida real da mesma forma que a vida online já está sobrecarregada. Por exemplo, como hoje existem muitos agentes a recolher dados da web para diferentes empresas de IA, já noto que muitos sites carregam mais devagar, é preciso fazer o processo de verificar se se é humano.

Há uns anos a Google apresentou o Duplex, que podia ligar para um restaurante e fazer reservas. Se um pequeno número de pessoas o utilizar, tudo bem, mas se toda a gente começar a usá-lo, os restaurantes vão deixar de atender o telefone devido à sobrecarga. Com os agentes, a situação pode descontrolar-se muito depressa — é essa a minha preocupação.

Então, talvez se esteja a trocar a conveniência [de agentes a fazerem tarefas] por uma experiência de utilizador pior noutras áreas?
Sim, a questão é que se torna uma espécie de uma corrida ao armamento. No mercado de trabalho, por exemplo, muitos candidatos utilizarão a IA para escrever cartas de apresentação e currículos. Os empregadores vão receber mil candidaturas, mais do que antes — e têm de usar IA para analisar as candidaturas. E depois os candidatos dizem ‘ok, preciso da minha própria IA para descobrir o que a IA do empregador procura num currículo’. E isto continua indefinidamente e o que antes era um processo que envolvia algum julgamento humano acaba por ser cada vez mais externalizado para máquinas.

É muito problemático porque, repito, não é como se algum dos lados quisesse isto. Não é como se uma das partes quisesse externalizar o seu esforço de candidatura ou de análise de candidaturas para uma grande empresa tecnológica. Mas, na dinâmica da corrida ao armamento iniciada pelas empresas tecnológicas e pelas empresas de IA, cada parte tem de fazê-lo.

Vamos começar a ver isso em vários aspetos da vida. Existe um grande teórico social alemão chamado Hartmut Rosa que fala sobre a aceleração social. Esta aceleração está agora a repercutir-se em tudo na nossa vida. Em vez de estar o dia todo a pensar na minha candidatura, no meu currículo e porque é que quero trabalhar numa empresa, tenho de enviar mil ou cem candidaturas porque toda a gente está a fazer o mesmo. Aí está o verdadeiro problema. O agente [de IA] não cria, de facto, muito mais valor para a sociedade, apenas acelera as coisas ou faz com que as pessoas as façam de uma forma diferente.

Utilizou o exemplo do uso da IA na triagem em processos de recrutamento. Em Portugal, o Governo está a tentar alterar a legislação laboral. E um dos pontos que surgiu esta semana é que a proposta prevê uma forma de um trabalhador poder reclamar sobre uma decisão tomada por um sistema automatizado ou por IA. Do ponto de vista de quem legisla, acha que este é o caminho certo? É suficiente para lidar com algumas das consequências da IA no mundo do trabalho?
Acho que é importante. Penso que esta é uma consequência natural do artigo 22.º do Regulamento Geral de Proteção de Dados (RGPD), sobre o direito a não ser julgado por uma decisão completamente automatizada.

Há uma diferença fundamental entre uma IA que deteta o cancro e uma IA que está a julgar um trabalhador. Precisamos de saber como o fez. É muito importante que as pessoas possam questionar este sistema e dizer se foi feito ou não de forma inadequada. Os dados podem estar errados, podem ser inadequados, talvez tenham sido processados ​​de forma injusta — há muitas formas de algo poder correr mal.

https://observador.pt/2026/05/19/governo-inclui-reclamacoes-de-decisoes-tomadas-exclusivamente-por-ia-no-pacote-laboral-nao-e-definido-como-contestar-no-recrutamento/

Há algumas empresas em que já é dito que alguns membros da sua equipa são agentes de IA.
Bah, são ferramentas.

Mas há quem defenda a ideia de que, talvez no futuro, os agentes até possam vir a queixar-se aos recursos humanos.
Reclamaria de quê? (risos)

Sim. Acha que chegaremos a esse ponto?
Espero que não. Temos sempre de pensar nestas coisas como ferramentas. Não são parceiros, são ferramentas. Acho que existem esforços para as caracterizá-las como parceiros, o que significa tentar aumentar o seu valor ou conceder-lhes direitos, liberdade de expressão, ou todos os outros direitos que acompanham isso. Sei lá, talvez soe giro, interessante ou divertido dizer ‘ah, este é o meu parceiro, o meu colega de trabalho’ em vez de uma ferramenta. Mas os agentes vão ter direitos na empresa? Vão ter direito a um julgamento justo se fizerem algo de errado? Quer dizer, a coisa descontrola-se muito depressa.

Acha que é possível, ou que estamos a caminhar para uma direção em que talvez no futuro uma IA, um agente de IA ou um robô possa ser responsabilizado pelas suas ações?
Penso que apenas o proprietário ou quem o opera deveria ser responsabilizado. O próprio robô não pode ser responsabilizado porque não sente dor, se for desligado, simplesmente desliga. Enquanto nós, humanos, temos sempre o medo da morte. Teremos sempre um certo receio da inconsciência, algo nesse sentido.

Mas o dono do robô pode ficar aterrorizado com a possibilidade de perder dinheiro e ser preso, etc., caso algo corra mal. Se um drone cair do céu, atingir alguém e matar uma pessoa — não consola nada a família saber que o drone vai para a prisão, certo? Porque é uma máquina. Se o dono for preso, sim, as pessoas que pilotam drones terão muito mais cuidado para não pilotar um drone que vá atingir a cabeça de alguém.

“Mundo tornou-se tão desordenado e instável” que “é difícil argumentar contra a automação na guerra”

No seu livro sobre “New Laws of Robotics“, fala sobre os princípios que devem nortear o desenvolvimento da IA ​​e da robótica. O livro é de 2020. Mudou de ideias sobre o assunto nos últimos anos?
As leis básicas, as quatro novas leis da robótica que estão no livro, continuam válidas, na minha opinião. Essencialmente, dizem que a IA deve complementar, e não substituir, os profissionais; que devemos estar atentos a possíveis corridas ao armamento da IA, como no caso da contratação automatizada ou da lei; que devemos sempre poder atribuir uma IA a uma pessoa, ao seu controlador ou proprietário; e que devemos evitar falsificar a Humanidade. Não devemos ter pessoas na área da IA ​​e da robótica a falsificar ou a criar uma falsa Humanidade.

Para mim, todas estas observações são válidas. Mas diria que o livro teve duas falhas. Uma foi o facto de o ter escrito antes da grande inflação de 2022-2024, que foi desencadeada pela invasão da Ucrânia pela Rússia. E, por isso, tinha uma visão muito mais otimista das finanças públicas quando escrevi o livro. E também sobre a indústria: o livro defendia que as economias globais, em particular as economias desenvolvidas, podiam depender dos serviços e que estes serviços não deviam ser automatizados. Tenho uma visão diferente agora, porque estamos numa era de escassez e acho que há uma maior urgência na automatização, mesmo nos serviços.

Em relação à IA militar, estava demasiado otimista quanto à estabilidade da ordem global. Agora é difícil argumentar contra a automação na guerra, porque o mundo se tornou tão desordenado e instável. Se pudesse reescrever o livro hoje, alterava os capítulos sobre o dinheiro e a guerra, mas não reescreveria os capítulos sobre medicina, educação, media e a natureza da identidade robótica, que não é uma pessoa.

Sobre a IA e a guerra, nos EUA está em curso um processo entre a Anthropic e o Pentágono. E também com a Palantir, a outra grande empresa nos contratos militares. Qual é a sua opinião sobre o processo?
Em abstrato, o poder corporativo deve estar subordinado à autoridade política legítima. Os EUA são, em teoria, um player global ou estão a tentar manter algum nível de poder militar e de segurança em relação a outras grandes potências que possuem empresas privadas e que se sentem muito à vontade para utilizar essas empresas privadas e ordená-las a atingir objetivos militares.

Mas isso é a um nível filosófico mais abstrato. O problema, claro, é que estes princípios filosóficos abstratos chocam com a realidade de quem está no poder e de quem está a fazer estas exigências. Tem sido um tema recorrente no meu trabalho: muitas vezes, tenho defendido o poder do Estado em diversas áreas, mas o problema é que, por vezes, as pessoas que exercem hoje essa autoridade estão a agir de forma ilegal ou ilegítima.

Pegando no exemplo da Anthropic: uma das linhas vermelhas era não permitir a vigilância militar de cidadãos americanos. Já escrevi bastante sobre a distinção entre uma investigação criminal civil e o alvo de ação militar. Acredito que a pedra basilar de uma sociedade justa é que as forças armadas não devem visar o seu próprio povo.

Sei que é uma resposta muito complexa, mas, se tivesse de sintetizar, as empresas privadas precisarão sempre de estar subordinadas à autoridade civil legítima. Mas em cenários em que a autoridade faz exigências que parecem violar os próprios princípios constitutivos que mantêm a sociedade unida, então não parece ser algo bom.

Estaria do lado da Anthropic nisto, acho positivo que esteja a tentar manter os seus princípios básicos. Está essencialmente a fazer o que os tribunais americanos deveriam estar a fazer, mas que abdicaram da sua responsabilidade de fazer. Temos nos EUA um Supremo Tribunal que abdicou de grande parte da sua responsabilidade no que diz respeito à proteção dos cidadãos contra muitas formas arbitrárias e caprichosas de poder.

https://observador.pt/especiais/negociacoes-falhadas-insultos-e-temido-risco-de-seguranca-nacional-ia-abriu-fosso-entre-anthropic-e-pentagono-mas-foi-usada-no-irao/

Foi membro do Comité Consultivo Nacional de IA dos EUA, de 2022 a 2024. Coincidiu com a onda do início do ChatGPT, da IA generativa. Considera que a sua experiência e a de outros especialistas foram tidas em conta na discussão sobre a IA?
Houve um processo, dentro daquele comité, de tentar reunir especialistas e representantes da indústria. No final, houve alguma influência dos especialistas, mas também a perceção de que a indústria da IA ​​era tão importante que tinha uma voz mais poderosa face ao que era recomendado pelos especialistas.

Quando diz importante, está a referir-se a nível empresarial, de negócio?
É uma questão de dois níveis. Havia um sentido implícito de que a indústria da IA, as empresas que estavam na vanguarda do fornecimento de computação e outras formas de análise de IA, eram centrais para a economia americana. Isso reflete-se nos documentos finais, os documentos públicos.

E acha que essas empresas são essenciais para a economia?
Não, não acho. A economia dos EUA, neste momento, faz-me lembrar um corpo que tem um cérebro enorme e uma estrutura muito frágil. Existe um enorme investimento na informatização de processos e esforços para refinar cada vez mais grandes modelos de linguagem (LLM) e modelos fundacionais, com a ideia de que este é o cerne da inovação para o futuro.

Acho que é importante, mas creio que a verdadeira essência da inovação está na forma de trazer este conhecimento da computação para o mundo físico. E é por isso que o meu livro se chama Novas Leis da Robótica. O que eu estava a tentar sinalizar era que os verdadeiros vencedores do século XXI serão os que chegarem primeiro a uma robótica que incorpora a IA, não serão aqueles que desvendaram a IA abstrata.

Se se olhar para o modelo económico da China, está muito mais focado em como integrar a visão, a linguagem e os modelos de ação. Por exemplo, fazer com que um robô veja algo e converta isso em ação. Acho que essas coisas é que são cruciais para que a IA tenha um papel fundamental na melhoria da vida de todos nós. Uma IA que torne os alimentos mais baratos, o transporte mais fácil e o nosso dia-a-dia, as nossas refeições, tudo mais acessível, para que todos tenham uma vida de abundância. Esta, para mim, é uma visão de futuro.

Mas sinto que grande parte do investimento dos EUA está em coisas muito abstratas e que não visam tornar o quotidiano mais barato. Se permitirmos que uma fatia cada vez maior da economia seja alocada à tecnologia e às finanças, o que é que acontece às empresas que produzem bens e serviços? Como incentivar este tipo de investimento? A ironia reside precisamente aí.

O que é fascinante agora é que todo o crescimento da riqueza está a ser impulsionado pelas empresas de IA. Acho claramente que é uma bolha: que há cada vez mais investimentos nestas empresas, que ficam ainda mais fortes por causa destes investimentos. Mas, no fim de contas, pergunto-me sempre: o que são estas empresas gigantescas? Será que poderiam assumir o controlo dos serviços? Será que poderiam tornar a educação e a saúde muito mais baratas? Talvez, mas não acho que o vão fazer.

Acha que a bolha da IA ​​​​pode rebentar?
Não sei… Depende muito das leis e das regras sobre a alocação de capital. E, por isso, acredito que existem formas pelas quais a bolha se pode tornar autossustentável, porque muitas pessoas investem de forma passiva. Nos EUA, se as pessoas tiverem um determinado tipo de fundo de pensões, há uma percentagem que é investida em ações. É quase uma espécie de fluxo quase infinito de dinheiro.

“A invocação da China muitas vezes não passa de uma manobra muito cínica para exigir desregulação”

Acha que este medo de os EUA perderem força para a China justifica estas movimentações que estão a acontecer?
Acho que há razões legítimas. Os EUA querem ser a potência global — tem sido essa a postura da maioria dos Presidentes ao longo da maior parte da minha vida. Os EUA ganharam a Segunda Guerra Mundial tendo uma capacidade industrial muito maior do que outros países, mais capacidade para construir navios, tanques. Neste momento, a capacidade de construção naval da China é superior à capacidade de construção naval dos EUA. Nem sequer é comparável. Não se trata apenas de saber se se consegue projetar força no estrangeiro, é uma questão de saber se se consegue sequer proteger o próprio território.

Há motivos para preocupação, mas essa preocupação não deve estar apenas centrada na China. Deve estar centrada em até que ponto é que temos a capacidade industrial básica para nos protegermos da desordem global. E acho que isso está em falta; não há investimento sério suficiente nessa área nos EUA, nem investimento suficiente nas cadeias de abastecimento. Vimo-lo durante a Covid-19. Diz-se que está na agenda, mas está a ser feito de uma forma tão errática e irracional pela administração atual dos EUA que não há forma de considerá-lo como uma política industrial coerente.

Voltando à questão da IA, penso que a invocação da China muitas vezes não passa de uma manobra muito cínica para exigir desregulação. É bastante cínico porque estão preocupados com a China, onde as empresas são fortemente reguladas.

Mas são reguladas por um governo que não é realmente democrático, certo?
Sim, é verdade. Também há na China uma vigilância massiva que é muito preocupante em termos de tentar manter as ideias políticas dentro de um certo âmbito. Mas diria que há aí uma certa complexidade.

É um desafio para as democracias ocidentais, no sentido de que, se houver a sensação entre o povo de que nada consegue ser feito, então cresce esta procura autoritária que vimos ter resposta nos EUA e noutros sítios, em El Salvador, de ter ‘um homem forte que faz as coisas acontecerem’. Acho que é essa a dificuldade: se a democracia estiver congelada então a tentação autoritária torna-se fortíssima.

E quanto à Europa? A Europa tem o AI Act. Houve algum orgulho em dizer que a UE foi a primeira a regular a IA. Num artigo de opinião para o New York Times, em 2021, disse que “não era perfeito”, mas um começo. O que pensa hoje sobre o AI Act?
Preocupa-me a lentidão na implementação. A minha maior preocupação é se haverá recursos para aplicá-lo. Por exemplo, em Portugal, quantas pessoas estão de facto a fazer cumprir o AI Act da UE? Que nível de capacidade de investigação têm as instituições?

Acho que são questões em aberto. Se calhar fui demasiado otimista em 2021. A verdadeira questão vai ser, em parte, se temos um mecanismo através do qual possamos taxar as empresas para financiar a regulação dos danos que estão a criar.

Uma das coisas que Silicon Valley diz é que a Europa tenta regulamentar e que não faz o suficiente para inovar. É um comentário justo, antes de mais? E acha que tentar ter uma regulamentação da IA pode estar a travar ou a limitar a capacidade da Europa de competir em IA?
Olharia mais para a alocação de capital do que para a regulação. A vantagem que os EUA poderão ter está mais enraizada em ter grandes grupos de capital de risco dispostos a atirar dinheiro para todo o tipo de atividades e ver o que funciona. O que, da minha perceção, não é tão prevalecente na Europa, há uma mentalidade de investimento muito mais conservadora — mesmo entre quem tem dinheiro suficiente para gastar. Olharia mais para as estruturas de financiamento.

Se fosse feito um segundo relatório Draghi [relatório sobre o futuro da competitividade económica da UE], deveria estar muito mais centrado em como criar incentivos ao financiamento e ao investimento. Por exemplo, se tivesse de haver uma decisão e os reguladores tivessem de escolher entre ter ou 5% em criptomoedas ou 5% em capital de risco ou 5% em obrigações estrangeiras. Faria muito mais para promover a inovação e as startups ao ter esses 5% para as startups. Não conheço a autoridade dos reguladores de investimento europeus — mas se criassem esse tipo de regra teria muito mais impacto [no ecossistema].

Quanto à regulamentação, dou um exemplo: alguém que seja responsável por retirar imagens ofensivas que apareçam online. É só mais um desafio para inovar na área da visão computacional para que seja mais fácil encontrar essas imagens. A regulamentação é, no fim de contas, apenas mais um desafio à inovação. Não é necessariamente uma questão de regulamentação versus inovação. A regulamentação obriga a fazer algum tipo de inovação. Sim, pode ser um fardo, pode ser algo em que as empresas não querem trabalhar, mas é outra forma de inovação — e com o tempo, fica super barata. Sempre que as pessoas se queixam e dizem que a regulamentação está a travar a inovação digo que não, está apenas a obrigar-vos a inovar de outra forma. Se forem bons no que fazem conseguirão trabalhar com juristas e tecnólogos para implementar a regulamentação de forma rápida e eficiente.

Há um argumento muito frequente quando se fala de IA, que é a ideia de que as pessoas que não a usam ou que não querem usá-la vão ficar para trás. Esta ideia de inevitabilidade tem algum fundo de verdade?
Tenho dois exemplos para isso: um fictício e outro não. Nos EUA houve um caso que envolvia os amish, que não queriam que os seus filhos frequentassem a escola para além do 8.º ano. Houve um processo e os amish disseram “a nossa forma de vida não precisa que aprendam temas complicados e muito eruditos. Podem só ficar na quinta”. E, embora o caso tenha sido decidido a favor dos amish, acho que há um argumento muito melhor, em nome das crianças, de que, para as proteger, deviam ser obrigadas a completar pelo menos o ensino secundário, pelo menos 12 anos de escolaridade.

Pode haver um argumento de que, para funcionar na sociedade no futuro, é preciso ter um conhecimento básico de IA, para perceber como funciona e como afeta várias áreas. A minha preocupação, porém, vem de um romance futurista chamado Feed. No livro há um avanço nas interfaces cérebro-computador e os pais têm de decidir, por volta do primeiro ou segundo ano, se vão colocar uma interface cérebro-computador no cérebro da criança, que vai crescer e evoluir com ela. Quanto mais tempo esperarem, mais difícil será colocar o implante. Se esperarem até aos 10 ou 14 anos, pode ser um procedimento muito doloroso, há probabilidade de não funcionar. O que o romance tentava dramatizar era a ideia de que é um atentado à liberdade humana e à individualidade quando a tecnologia se torna tão invasiva que ou ligamos a mente diretamente ou corremos o risco de ficar para trás, de não ter acesso a uma vasta gama de empregos, como acontecia no livro.

E, de uma forma menos dramática, isto já está a acontecer em muitas escolas americanas, onde a escola dá aos miúdos iPads logo aos 6 anos. Os pais dizem “não quero que o meu filho tenha acesso à internet nessa idade”. Mostra que, no fim de contas, precisamos de ter formas controladas e ponderadas de introduzir as pessoas à tecnologia mais recente, mas também de dar sempre aos pais e às crianças a possibilidade de não participarem, de preservar este tipo de liberdade de estar desligado ou não.

Continua otimista em relação à IA?
Há algumas áreas, como a medicina, em que acho que a IA pode ser incrível. Por exemplo, se no futuro se pudessem fazer exames com IA que encontrassem o cancro na fase mais inicial. E combinado com inovação biomédica, muito poucas pessoas morreriam antes dos 70 anos porque o cancro era simplesmente eliminado. Ou, se não fosse eliminado, haveria formas fáceis e baratas de detetá-lo. Acho que há exemplos nos transportes — os carros autónomos, etc.

Temos a IA a escrever romances, peças de teatro, seja o que for — quero é que faça o trabalho difícil. Descubram uma IA que consiga abrir um túnel extra do metro ou que possa ajudar a construir uma casa por cinco vezes menos do que custa neste momento. Isso é que são trabalhos difíceis. O problema, mais uma vez, voltando ao ambiente de investimento, é que também temos de pensar no que é a inovação. O ambiente de investimento dos EUA pode ser muito bom para o que agora chamamos inovação, porque há pessoas a atirar dinheiro para qualquer startup que quer usar IA.

As startups dos ex-fundadores da OpenAI receberam muito capital logo ao início, sem ainda terem um produto, por exemplo. 
Exato, começa a parecer uma aristocracia do capital da IA — as pessoas entram nisto, sabe-se lá como e sem um produto. Tenho uma esperança otimista para o futuro da IA, mas acho que as leis, as regras e os incentivos não estão a fazer o suficiente para promover essa esperança. Precisamos mesmo de repensar o que é mais importante para a nossa sociedade e como fazer com que a IA assuma esses papéis, em vez de se pensar no que pode ser mais rentável e divertido nos próximos quatro meses ou no próximo ano.

E quanto à inteligência artificial geral [AGI, uma IA que ultrapasse de forma generalizada as capacidades humanas]? Acha que vai ser uma realidade e que as empresas deveriam tentar alcançá-la?
Acho que é uma distração. É uma distração porque, na medida em que a inteligência é incorporada no corpo, acho que não há forma de existir AGI. Pode haver uma empresa que tenha tanta computação que consiga fazer um número enorme de coisas ao mesmo tempo, e isso é muito poderoso e impressionante, mas não deve ser visto como uma espécie de figura divina. Muito do discurso sobre AGI é como substituir Deus pela IA — e isso é uma ambição errada.

Se a AGI for definida como um computador que consegue fazer todo o trabalho humano que é valioso do ponto de vista económico, acho que é uma forma ardilosa de definir a AGI. Porque o que está a dizer é que o computador tenha inteligência geral sobre tudo e que está a alocar todos os salários atuais ao capital que fornece o computador. Acho que essa é uma forma muito má de AGI, por isso espero que isso não aconteça.