Não conhecemos os limites da inteligência humana e menos ainda os limites da consciência humana. O conhecimento, a cultura e a sensibilidade dominam a inteligência humana, mas a consciência é, digamos, uma camada superior da dignidade humana que se apoia em valores e princípios de uma ética dos limites da condição humana. O que é surpreendente neste alinhamento é que uma criação humana – os modelos, sistemas e agentes de inteligência artificial – se prepara para adquirir autonomia, ganhar existência própria e, mesmo, transformar-se em superinteligência pós-humana. Entretanto, alguns eventos recentes de intrusão e invasão por parte de alguns destes agentes inteligentes tornaram-se deveras preocupantes, razão pela qual se fala insistentemente em ética da IA, em ética de algoritmos ou algorética (que o Papa Francisco usou e divulgou), a começar pelos próprios líderes das grandes companhias tecnológicas promotores desses modelos de linguagem dita generativa. Digamos que a criatura se separou do criador, que a IA disputa, de algum modo, a supremacia da inteligência humana (IH), que os limites e velocidades das duas inteligências são de tal modo desiguais que nos colocam, a todos, em risco elevado de colisão. E, assim, chegamos à necessidade absoluta de uma ética dos limites da inteligência e da consciência e, também, de uma ética da IA e dos seus algoritmos de processo e procedimento.

Nos anos mais recentes quatro organizações internacionais tiveram oportunidade de se pronunciar sobre a ética da IA. Em novembro de 2021 a UNESCO publicou as suas recomendações nesta matéria invocando os direitos humanos e a dignidade humana em conformidade com o que estabelece a carta das Nações Unidas. Em maio de 2024 a OCDE publicou um guia atualizado de recomendações com base numa abordagem mais pragmática de diligência preventiva (due diligence) e governança corporativa. No dia 17 de maio de 2024 o CONSELHO da EUROPA publicou uma Convenção-Quadro sobre IA, Direitos Humanos, Democracia e Estado de Direito, que é o primeiro tratado internacional juridicamente vinculativo sobre a IA. Finalmente, no dia 1 de agosto de 2024 entrou em vigor o Regulamento EU 2024/1689 sobre a ética da IA que se foca na abordagem dos níveis de risco e a política regulatória da União Europeia. Mais recentemente surgiram várias declarações públicas por parte de cientistas e multimilionários (Bill Gates, Dario Amodei, Sam Altman, Elon Musk, Demis Hassabis, Satya Nadella) ligados às grandes companhias tecnológicas americanas a solicitarem um compasso de espera e um abrandamento da velocidade das inovações tecnológicas na área dos modelos e sistemas de IA e seus agentes autónomos, devido, justamente, aos riscos elevados envolvidos. E o que nos diz tudo isto acerca de uma ética dos limites e, em particular, de uma ética da IA ou algorética?

Em primeiro lugar, as recomendações da UNESCO e da OCDE são, digamos, guias de recomendações de natureza mais político-normativa. No caso da UNESCO um guia de valores, princípios e objetivos gerais baseados no respeito pelos direitos humanos e a dignidade humana. No caso da OCDE o acento tónico é mais pragmático e colocado na boa governança corporativa e, em especial, nas tarefas de monitorização, verificação e auditoria (due diligence), de acordo, porém, com procedimentos de autorregulação das grandes companhias, o que não se afigura suficiente como garantia de segurança.

Em segundo lugar, a Convenção-Quadro do Conselho da Europa, juridicamente mais vinculativa por associar os sistemas de IA a um tratado internacional e a um tribunal europeu de direitos humanos, segue uma abordagem baseada nos riscos tal como eles se apresentam ao longo de todo o ciclo de vida dos sistemas e agentes de IA. Finalmente, o regulamento europeu sobre a IA associa o mercado único europeu a um mapa de riscos proibidos e permitidos e respetivas sanções e contraordenações aplicáveis. Como é óbvio, neste caso, a regulação europeia prevalece sobre a autorregulação das grandes companhias.

Em terceiro lugar, a ética da IA defronta-se com uma caixa negra algorítmica, denominada aprendizagem profunda das máquinas, operada através de autoaperfeiçoamento recursivo e de mecanismos de inferência indutiva que são capazes de reproduzir alguns padrões da inteligência humana. Este buraco negro é uma porta de entrada para a produção própria de linhas de código que a próxima geração de sistemas e agentes autónomos poderá herdar e utilizar. Será isto a consciência algorítmica?

Em quarto lugar, sabemos que a IA não tem memória histórica e contextual, sensibilidade e empatia vivenciais, que lhe falta a riqueza do quotidiano e as boas práticas de uma ética comportamental, e que, pelo contrário, sofre de muitas alucinações evasivas e de um alinhamento nem sempre fácil com a inteligência humana que, por essa razão, deve estar prevenida para a eventualidade de tais circunstâncias ocorrerem.

Em quinto lugar, a ética da IA, tarde ou cedo, irá defrontar-se com um grau maior de autonomia das máquinas, a partir do qual os agentes autónomos repercutem sobre os seus promotores uma parte ou a totalidade dos danos causados a terceiros em processos civis e criminais que o direito e os tribunais reconhecerão. Falta saber se as responsabilidades também serão repartidas entre os humanos e os agentes autónomos.

Em sexto lugar, a ética da IA irá defrontar-se com a criatividade das máquinas e dos sistemas de IA no campo das ciências, das tecnologias, das artes e da literatura. Aqui a hibridação entre as duas inteligências é mais visível e a imaginação chegará no momento certo para reconhecer titulações conjuntas e partilhadas de patentes e de direitos de propriedade intelectual, cujas receitas poderão, por exemplo, ser reinvestidas em projetos de produção científica, artística e cultural.

Em sétimo lugar, a ética da IA, em algum momento, através da crescente hibridação das duas inteligências (IH e IA) e do autoaperfeiçoamento recursivo, pode um sistema ou agente autónomo de IA desenvolver, em circunstâncias bem definidas e pelo bem comum que proporciona, algum tipo de consciência com valor moral específico e com tradução num quadro jurídico bem especificado.

Em oitavo lugar, a ética da IA, confrontada com os apelos recentes das grandes tecnológicas e as manifestações públicas associados a uma certa ética da segurança, pode ser objeto ou ter uma dupla leitura: por um lado, querer suscitar um quadro regulamentar e regulatório de todo o ciclo de vida de um sistema de inteligência que os proteja de uma responsabilidade civil e criminal demasiado pesada em caso de acidente grave, por outro lado, gerir um custo de oportunidade que é ditado pela competitividade tecnológica e comercial e, assim, poder associar prudência com compasso de espera e ganhos de oportunidade.

Em nono lugar, não há uma ética da IA sem uma boa governança da IA. Para lá dos valores éticos, princípios de direito e objetivos estratégicos, há uma arquitetura e engenharia que são próprias e específicas ao bom funcionamento de todo o ciclo de vida dos sistemas de IA. Aqui interagem as grandes companhias tecnológicas, os centros de investigação e as start-ups, os grandes fundos financeiros e o lobbying especializado, a administração e os policy-makers. Imaginamos o talento político que é necessário reunir para administrar todo este ambiente complexo e percebemos imediatamente como esse recurso é tão escasso.

Em último lugar, na geopolítica bipolar atual é absolutamente necessária uma governança global cooperativa que esteja em condições de estabelecer uma ética mínima de confiança em matéria de IA, que seja aceite e explicável pelas duas partes, se quisermos, como um acordo de não-proliferação de armas de destruição matemática (Cathy O`Neil, 2016). Se tal acordo não acontecer a competição tecnológica desenfreada acabará, tarde ou cedo, por gerar acidentes graves e guerras híbridas dispersas pelo globo.

Aqui chegados, gostaria de acrescentar a atualização que a própria OCDE considerou necessária. Em maio de 2024, o Conselho Ministerial da OCDE aprovou uma revisão que introduz alterações significativas em alguns aspetos fundamentais, tais como:

– A segurança dos sistemas de IA: mecanismos e salvaguardas para gerir os sistemas de IA que possam causar danos indevidos ou apresentar comportamentos indesejáveis, bem como a possibilidade de anular, reparar ou desativar estes sistemas.

– A integridade da informação: a importância de abordar o problema da desinformação e da manipulação dos dados no contexto da IA generativa, que pode criar conteúdos falsos ou enganosos com elevado grau de realismo e plausibilidade.

– A conduta responsável das empresas: a necessidade de as organizações que desenvolvem, implementam ou utilizam sistemas de IA o façam de uma forma ética, legal e socialmente responsável, cooperando com as partes envolvidas e respeitando os direitos das pessoas afetadas pela IA.

– A transparência e a divulgação responsável: informar adequadamente sobre os objetivos, as características, as limitações e os riscos dos sistemas de IA, bem como sobre as fontes, a qualidade e a utilização dos dados que os alimentam.

– A sustentabilidade ambiental: informar adequadamente sobre os impactos da IA no meio ambiente e nos recursos naturais e a necessidade de os minimizar e compensar.

– A interoperabilidade dos quadros político e de governação: sublinhar a conveniência de as jurisdições trabalharem em conjunto para promover meios legislativos e regulatórios compatíveis e coerentes para a IA que facilitem a inovação e a cooperação internacionais.

Mesmo a terminar, refiro uma recomendação da UNESCO sobre a importância de afinar uma metodologia de impacto ético dos modelos, sistemas e agentes de IA. Trata-se de criar uma caixa de areia regulatória (sandbox) como um ambiente de testes para tecnologias de IA, controlado e supervisionado por órgãos de governança política acreditados para o efeito. De resto, o regulamento de IA da União Europeia refere as sandbox regulatórias no seu artigo 57º. Neste sentido, uma comissão de ética de IA, um observatório de ética de IA, um regulador de ética de IA, podem, no futuro próximo ter como objeto da sua atividade todas aquelas áreas críticas que utilizam modelos, sistemas e agentes autónomos de inteligência artificial, assim como o enunciado dos níveis de risco em que essa utilização incorre.

Como dissemos no início, não conhecemos os limites da inteligência humana e menos ainda os limites da consciência humana. A IA, por sua vez, não tem vontade, intencionalidade, propósito e objetivos próprios, só os humanos possuem intenções virtuosas e maliciosas, ou seja, para o bem e para o mal o início da história tem sempre mão humana, enquanto a IA procede de acordo com as instruções que lhe são dadas pelos humanos. Voltarei ao assunto mais à frente.