Um governo prepara uma reforma. Antes de avançar, quer saber como reagiria a população. As respostas chegam quase de imediato. Só há um problema: ninguém respondeu.

Esta cena ainda é hipotética. A tecnologia que a torna plausível já não. No final de junho, a OCDE analisou 50 casos de utilização de IA na participação cívica em 22 países. Um deles é o Consult, uma ferramenta do governo britânico que, numa consulta sobre o setor da água, agrupou por temas mais de 50 mil respostas em cerca de duas horas. Ali, a IA ajudou a ouvir pessoas reais.

Mas o mesmo relatório identifica a fronteira seguinte: usar perfis gerados por IA, os chamados cidadãos sintéticos, para simular respostas de pessoas sem as consultar.

Já existem ferramentas que criam perfis de IA e simulam as respostas que esses perfis dariam em estudos de mercado. A OCDE considera altamente plausível que ferramentas semelhantes estejam em breve disponíveis para simular cidadãos. Admite usos muito específicos, como representar gerações futuras em políticas de longo prazo, mas deixa um aviso claro: uma simulação não deve substituir o envolvimento de cidadãos reais. Uma coisa é usar IA para nos ouvir melhor. Outra é usá-la para deixar de nos ouvir.

É fácil perceber a tentação. Um governo poderá testar uma reforma, medir reações, alterar a proposta e voltar a testar. Quantas vezes quiser. Sem lançar uma consulta, sem esperar que alguém participe. A população sintética estará sempre disponível. O cidadão real não. Hesita, muda de opinião, discorda da pergunta e, por vezes, recusa-se a escolher entre as opções que o poder lhe apresenta.

Essa fricção parece ineficiência. Numa democracia, chama-se liberdade.

Mas quem constrói a população que o governo vai ouvir? Um cidadão sintético não nasce. É construído a partir de dados, modelos e escolhas humanas. Quem escolhe os dados, define os perfis e decide que passado será usado para prever o futuro?

Uma população artificial não é encontrada. É desenhada.

Quanto mais convincente for a simulação, mais fácil será tratá-la como representação. E nem precisa de ser perfeita. Basta que pareça suficientemente credível para entrar num memorando, orientar uma decisão ou permitir ao poder dizer: “a simulação mostra o que os cidadãos escolheriam”.

Uma previsão pode acertar. Nem por isso passa a ser participação.

Uma sondagem ainda pergunta a alguém. Uma consulta pública ainda permite que alguém responda, proteste, mude de posição ou introduza uma ideia que ninguém tinha previsto. Um cidadão sintético pode responder sobre uma decisão sem que um único cidadão real tenha sido consultado. A diferença não está apenas na precisão da resposta. Está em saber se os cidadãos tiveram voz.

E essa diferença surge num momento de confiança frágil. Em média, nos países da OCDE, apenas 32% dos inquiridos consideram provável que o governo adote opiniões expressas numa consulta pública. Se tantos já duvidam de ser ouvidos quando falam, o que acontece quando o poder deixa de precisar que falem?

A democracia não é um problema de previsão. Não existe para adivinhar com precisão aquilo que escolheríamos. Existe para nos permitir participar na formação da escolha.

A vontade política não está simplesmente guardada dentro de nós, pronta a ser extraída por um modelo. Também se forma quando discutimos, ouvimos argumentos, percebemos custos e mudamos de ideias. Se a previsão substituir esse processo, o poder não corre apenas o risco de compreender mal a vontade popular. Contorna o lugar onde ela se forma e pode mudar.

Há ainda algo que nenhum modelo deve retirar ao cidadão: o direito de surpreender o poder. De votar contra o seu perfil. De abandonar uma convicção antiga. De dizer hoje aquilo que os dados de ontem não permitiam prever.

A IA aprende com o passado para tentar prever o futuro. Uma democracia tem de permitir que o futuro o contradiga.

Por isso, o problema não está em simular. Está em confundir simulação com participação. Se uma entidade pública recorrer a cidadãos sintéticos, três limites devem ser inegociáveis: tornar público que os utilizou, com que finalidade e que papel tiveram na decisão; apresentar os resultados apenas como cenários, nunca como expressão da vontade popular; e impedir que uma simulação substitua a participação de pessoas reais ou seja apresentada como tal.

Uma simulação pode informar uma decisão. Não pode falar em nome dos cidadãos.

O que está em causa não é apenas o direito a ser ouvido. É o direito à divergência: o direito de contrariar o perfil construído a partir do nosso passado e de exigir que nenhuma previsão sobre nós seja confundida com uma escolha nossa.

A democracia começa exatamente aí: quando um cidadão olha para a sua réplica e diz: “Parece-se comigo. Mas não sou eu. E ainda não decidi.”