Aos leitores que se interessam pelos temas da governança algorítmica gostaria de sugerir a leitura do livro “Algorithimic institutionalism” editado originalmente pela Oxford University Press em 2023 e já traduzido com o título “Política dos algoritmos, instituições e as transformações da vida social” publicado pela Editora UBU do Brasil em 2025. Os autores são os professores brasileiros Virgílio Almeida, Fernando Filgueiras e Ricardo Fabrino que lançaram para o debate público o tema dos algoritmos como instituições e seu impacto na governação democrática. Seguem-se umas breves reflexões.
Em primeiro lugar, trata-se de saber como é que novos arranjos normativos se formam no interior dos fluxos tecno-digitais, ou seja, estruturas que reorganizam os nossos modos de pensar, ser, estar e agir. Uma interação em constante transformação entre a norma, a instituição, e o comportamento (o ator ou agente). Está, portanto, em operação uma cadeia de valor institucional que começa com a informação bruta recolhida e convertida em dados de acordo com o protocolo algorítmico estabelecido.
Em segundo lugar, e para lá do dispositivo tecno-digital, da programação matemática e das linhas de código informático, da descrição, predição e prescrição do algoritmo, há a natureza, mesma, do conceito de instituição, ou seja, a intencionalidade e o propósito de quem ordena e o efeito ou resultados que pretende obter. E assim sendo, os valores e a intencionalidade, a programação e as linhas de código, abrem a porta a inúmeros vieses. Estamos a falar de enviesamentos na recolha de dados, de discriminações e exclusões, de violações de privacidade, de viciação de resultados, efeitos que se acentuam com o aumento das decisões automatizadas. Ou seja, não há neutralidade algorítmica possível, o que há é uma disputa crescente entre diversos arranjos normativos, entre a deliberação algorítmica e a deliberação democrática. Os algoritmos, entendidos aqui como instituições, têm, digamos, um efeito placebo sobre a nossa vida coletiva, facilitam o nosso quotidiano, estabilizam as nossas expetativas, são uma espécie de mestre silencioso e invisível da nossa vida em comum que, insidiosamente, nos transformam como seres humanos com determinadas características há muito adquiridas.
Em terceiro lugar, a associação do algoritmo à inteligência artificial pode levar-nos para lá do absolutamente inusitado e de todos os limites ético-políticos imagináveis. Ou seja, a caixa negra do algoritmo junta-se aos diversos modelos de inteligência artificial, gerais e específicos, e estaremos, muito em breve, no mundo maravilhoso do transumanismo e do pós-humanismo. Donde, mais uma vez, a questão fundamental, como democratizar os algoritmos que informam a IA e prevenir e controlar os seus impactos sobre a governação e a deliberação democráticas? E, neste contexto, qual é a melhor abordagem ao protocolo algorítmico, uma simples linha de código, um conjunto de processos e procedimentos de cálculo, uma instituição ou arranjo normativo que converte o nosso quotidiano em uma tipologia de comportamentos previsíveis e perfiláveis?
Em quarto lugar, de um sofisticado objeto sociotécnico até uma instituição, ao institucionalismo algorítmico, estamos perante uma nova constelação no que diz respeito às relações humanas e sociais: as relações com as máquinas que aprendem, as relações com outros humanos por intermédio das máquinas, a governação pública através do modo algorítmico, as relações de trabalho com a intermediação do institucionalismo algorítmico, os canais de comunicação e redes sociais do novo universo comunicacional.
Em quinto lugar, nesta profunda transformação induzida pelo institucionalismo algorítmico há, obviamente, uma mutação significativa nas relações de poder. Por um lado, estamos a desinstitucionalizar por via de decisões automatizadas, por outro, estamos a reinstitucionalizar por via do institucionalismo algorítmico. Esta mutação tem um impacto enorme na teoria institucional e na governação democrática. Ou seja, estamos obrigados a regressar aos princípios fundamentais da sociedade aberta e percorrer toda a cadeia de valor do institucionalismo algorítmico para que fique muito claro quem ordena e delibera sobre as regras do jogo. Falamos de liberdade e igualdade entre cidadãos, a clarificação dos vieses cognitivos do algoritmo, a transparência em matéria de rastreamento e perfil comportamental, a valorização da esfera pública e o controlo regulatório, a participação das instituições políticas democráticas na accountability do institucionalismo algorítmico.
Em sexto lugar, percorrer toda a cadeia de valor do institucionalismo algorítmico significa, ainda, saber quem controla a infraestrutura tecno-digital e, portanto, a soberania tecno-digital de um país. Significa, ainda, saber quem delibera e aprova os modelos de linguagem, gerais e específicos, que determinam os nossos comportamentos, quem decide efetivamente a formulação de políticas públicas e a comunicação política correspondente, quem define as regras do controlo regulatório e democrático de toda a cadeia de valor do institucionalismo algorítmico e, também, os valores e as metodologias que devem informar tudo o que se reporta à literacia tecno-digital dos cidadãos.
Em sétimo lugar, entre o oligopólio privado das Big Tech e o escândalo das fortunas acumuladas por meia dúzia de indivíduos, por um lado, e a nacionalização da internet e a vigilância apertada das companhias tecnológicas, por outro, existe uma diversidade de políticas regulatórias, mas, também, uma resistência infrapolítica que cresce todos os dias no que diz respeito à preservação da nossa liberdade e privacidade individuais e consequente rastreamento e perfil digitais. Neste sentido, importa relevar aqui a conexão fundamental entre soberania digital e democracia política no espaço da União Europeia, o espaço próprio para demonstrar a eficiência e eficácia das infraestruturas tecno-digitais, a interoperabilidade das redes respetivas e a transparência e regulação dos serviços tecno-digitais correspondentes.
Nota Final
Em nossa opinião, o institucionalismo algorítmico é uma nova estrutura de relação e interação que, pelo seu arranjo normativo, é capaz, julgamos nós, de prevenir e evitar que seja cometido, pelo oligopólio das plataformas Big Tech, um abuso de posição dominante tendo em vista proceder à extração de recursos comuns valiosos, sem preço, como são a liberdade, a privacidade e a segurança de cada um de nós. Ou, de forma mais crua, tornar-nos, a nós, o produto principal da sua cadeia de valor. A grande dúvida neste momento é saber se esses recursos comuns se convertem, total ou parcialmente, em direito proprietário, com um preço ou taxa aplicável. E assim chegamos ao paradoxo, quase trágico, das democracias contemporâneas. A sua superioridade democrática traduzida em transparência, pluralismo, debate aberto e responsável, checks and balances, corre o sério risco de se converter em vulnerabilidades num ecossistema dominado por algoritmos e inteligência artificial. Estamos muito expostos. A transparência democrática expõe-nos, o pluralismo fragmenta a nossa atenção, o debate aberto abre a porta à desinformação e contrainformação, os checks and balances da república condicionam a política regulatória enquanto a tecnologia avança vertiginosamente e as novas relações de poder se consolidam. Por causa da opacidade dos algoritmos e a linearidade da IA, a política e a governação democráticas são mais necessárias do que nunca. A expertise tecnocrática é muito importante, mas a deliberação democrática é absolutamente determinante.