Há quem prometa que a inteligência artificial vai salvar a saúde. Há quem jure que a vai matar de vez. A verdade, como sempre, é mais aborrecida e mais incómoda do que qualquer um dos dois evangelhos.
Há uma certa categoria de entusiasta tecnológico que fala de inteligência artificial em saúde com o mesmo brilho no olhar com que um adolescente fala da primeira mota: é rápida, é linda, nunca se vai estragar e definitivamente não vai matar ninguém. Depois há a categoria oposta, o catastrofista de gabinete, para quem cada algoritmo é uma SkyNet em miniatura à espera de negar uma transfusão de sangue por motivos de eficiência orçamental. Entre estas duas seitas – a dos que acham que a IA vai reumanizar a medicina e a dos que acham que vai desumanizá-la de vez- há, como é hábito na vida adulta, um território imenso e pouco fotogénico chamado realidade.
Comecemos pelos factos, já que é moda recente considerá-los opcionais.
A inteligência artificial já está, de facto, dentro do hospital. Não como personagem de ficção científica, mas como produto bastante mais prosaico: software de triagem, algoritmos de previsão de sépsis, sistemas de leitura de imagem radiológica, modelos de gestão de dotações de enfermagem, chatbots de aconselhamento clínico e, cada vez mais, assistentes que ouvem a consulta e escrevem a nota clínica enquanto o médico, milagrosamente, olha para o doente em vez de olhar para o ecrã. Este último ponto não é um detalhe menor. Eric Topol – cardiologista, um dos investigadores médicos mais citados do mundo e autor de Deep Medicine – defende, com uma sinceridade que desarma os cínicos, que a maior promessa da IA não é diagnosticar melhor do que o médico, mas devolver-lhe aquilo que a burocracia digital lhe roubou: tempo de olhos nos olhos com o doente. Chama a isto, com fino sentido de ironia, a “libertação do teclado”. É uma ideia bonita. É também, valha a verdade, uma ideia que pressupõe que a tecnologia vai ser implementada para libertar o médico e não para o substituir por menos um colega na escala do mês seguinte. Aqui reside o primeiro pequeno problema: entre a promessa do laboratório e a prática do conselho de administração, há sempre um abismo financeiro que ninguém gosta de mencionar nas conferências de imprensa.
E é também o próprio Topol quem, com a mesma autoridade com que elogia a tecnologia, lhe trava as ânsias messiânicas. Numa revisão de mais de sessenta ensaios clínicos randomizados sobre inteligência artificial em medicina, não encontrou evidência consistente de que os algoritmos superem a precisão diagnóstica humana fora de tarefas muito restritas e bem definidas. Tradução para português corrente: a máquina é excelente a fazer uma coisa muito específica, repetidamente, sem se cansar – mas continua a precisar de um ser humano por perto para perceber quando essa coisa específica deixou de fazer sentido. O mesmo autor que escreveu o manifesto mais otimista da década é, ironicamente, quem nos lembra que não há substituto algorítmico para o bom senso de uma criança de seis anos, e que ninguém deveria confundir velocidade de processamento com sabedoria clínica.
Até aqui, tudo relativamente cordial. Onde a conversa fica verdadeiramente desconfortável é quando se sai da sala de imagiologia e se entra na sala das decisões que distribuem recursos escassos – porque é aí que a inteligência artificial deixa de ser uma lupa sofisticada e passa a ser um juiz silencioso, sem toga, sem direito de recurso e, frequentemente, sem se aperceber de que está a ser profundamente injusto.
O caso mais citado na literatura internacional – e citado por uma excelente razão, que é ser absolutamente exemplar do género de desastre que a tecnologia consegue produzir quando ninguém pergunta a pergunta incómoda a tempo – é o estudo de Ziad Obermeyer e colegas, publicado na Science em 2019. Os autores dissecaram um algoritmo amplamente usado nos hospitais norte-americanos para identificar doentes que precisavam de cuidados adicionais. O algoritmo, perfeitamente “neutro” do ponto de vista matemático, usava como referência os custos históricos de saúde de cada doente. Parece razoável, até se recordar que, nos Estados Unidos, doentes negros recebem sistematicamente menos cuidados – e, portanto, custam sistematicamente menos do que doentes brancos igualmente doentes, por motivos que têm tudo a ver com desigualdade estrutural e nada a ver com necessidade clínica real. O resultado foi um sistema “objetivo” que concluía, com confiança matemática inquestionável, que pacientes negros gravemente doentes estavam mais saudáveis do que estavam. Corrigir o enviesamento duplicou o número de doentes negros identificados como necessitando de cuidados prioritários. Voltemos a dizer isto em português simples, porque merece ser dito sem eufemismo: um algoritmo concebido para ajudar a alocar cuidados de saúde estava, silenciosamente, a decidir que a dor de umas pessoas contava menos do que a dor de outras. Sem intenção malévola, sem vilão de bigode sinistro – apenas matemática aplicada sobre um mundo já injusto, que devolveu, fielmente, a injustiça que lhe foi dada a comer.
Este é o paradoxo essencial que qualquer debate sério sobre IA em saúde devia colocar no centro da mesa, em vez de o empurrar educadamente para debaixo do tapete: o algoritmo não inventa preconceitos do nada, mas é extraordinariamente eficiente a escalá-los. Um enfermeiro cansado pode ser injusto com um doente num turno mau. Um algoritmo mal calibrado é injusto, exatamente da mesma forma, com duzentos milhões de doentes ao mesmo tempo, todos os dias, sem fadiga e sem remorso, porque remorso não é uma propriedade que se compile em código.
E, no entanto- porque a vida intelectualmente honesta exige sempre um “e no entanto” – seria de uma desonestidade flagrante fingir que o outro lado da balança está vazio. Estudos sobre leitura automatizada de imagem têm demonstrado, de forma consistente, que sistemas de apoio à decisão aumentam a taxa de deteção precoce de cancros do pulmão, da mama e do cólon, sobretudo quando usados não para substituir o radiologista, mas para lhe dar uma segunda opinião incansável e estatisticamente bem-comportada. Os modelos preditivos de deterioração clínica e de sépsis, quando bem validados sublinhe-se: quando bem validados, não quando comprados a correr por um departamento de aprovisionamento hospitalar deslumbrado com um folheto promocional – permitem identificar doentes em risco horas antes de um clínico humano, sobrecarregado com vinte outros casos, conseguir fazê-lo. Em Enfermagem, a literatura mais recente associa o uso criterioso de ferramentas preditivas a reduções mensuráveis na taxa de quedas e de úlceras de pressão- precisamente os indicadores sensíveis aos cuidados de enfermagem que continuam a ser, e bem, o termómetro mais honesto da qualidade assistencial. Ninguém com formação clínica séria nega isto. Negá-lo seria tão intelectualmente desonesto quanto fingir que o estudo de Obermeyer não existe.
A questão nunca foi, portanto, “a inteligência artificial é boa ou má” – pergunta com a sofisticação analítica de perguntar se o bisturi é bom ou má, ignorando completamente quem o segura, com que treino, sob que supervisão e a operar em que doente. A pergunta séria, a única que devia ocupar as páginas de opinião em vez das hipérboles de costume, é: quem está a validar estes sistemas, com que dados, sob que escrutínio público, e com que disposição para os desligar quando se revelam um fiasco caro?
Porque é aqui que a conversa portuguesa – e europeia – se torna particularmente reveladora, e não necessariamente pelas melhores razões. Vivemos num país onde a Ordem dos Enfermeiros continua a visitar hospitais a apontar défices de dotação segura que a tecnologia, por mais inteligente que seja, não resolve com um clique – porque não há algoritmo capaz de duplicar um enfermeiro que não existe. Adotar inteligência artificial num sistema de saúde estruturalmente subfinanciado e cronicamente subdotado de pessoal não é inovação: é, com frequência preocupante, uma forma elegante de comprar tempo político enquanto se evita resolver o problema de fundo, que é gente a menos a cuidar de gente a mais. A IA promete eficiência; raramente promete -e ainda mais raramente cumpre – equidade. E um sistema de saúde que troque equidade por eficiência sem o admitir em voz alta não está a modernizar-se: está apenas a automatizar as suas próprias vergonhas antigas, agora com uma interface mais bonita.
Há ainda o capítulo, demasiado vezes ignorado nos painéis de conferência onde todos vestem o mesmo blazer e concordam educadamente entre si, da relação terapêutica. A medicina e a enfermagem não são apenas o processamento correto de informação clínica; são, em boa parte, o ato de uma pessoa assustada confiar a sua vulnerabilidade a outra pessoa que promete cuidar dela. Substituir parte dessa relação por uma interface, ainda que tecnicamente competente, tem custos que não aparecem em nenhuma folha de Excel de ganhos de produtividade. Não é coincidência que a literatura mais séria sobre o tema – incluindo um artigo de referência publicado no British Medical Journal sobre o futuro digital da profissão de enfermagem – insista que a literacia digital deve ser uma competência nuclear da Enfermagem do século XXI, mas sempre acompanhada de supervisão clínica humana permanente. Não como cortesia simbólica, não como cláusula de conforto moral para tranquilizar os mais reticentes, mas como condição estrutural inegociável de segurança. Sistema de apoio à decisão, sim; sistema de decisão por delegação completa, definitivamente não – e quem confundir as duas coisas devia ser impedido de se aproximar de um orçamento hospitalar a menos de cinquenta metros.
Resta, portanto, perguntar o que fazer com este admirável e perigoso instrumento, agora que ele já está, irreversivelmente, dentro da consulta, do bloco operatório e do posto de enfermagem. A resposta sensata – que tem, é certo, a desvantagem fatal de não caber numa frase de efeito para uma conferência TED – é exigir aquilo que devíamos exigir de qualquer tecnologia que toca em vidas humanas: validação externa independente, auditoria contínua de enviesamento por subgrupo demográfico, transparência sobre os dados de treino, e – porventura o ponto mais subversivo de todos numa época obcecada com a próxima disrupção – a humildade de admitir que nem toda a inovação é progresso, e que algumas das melhores decisões em saúde continuam a ser tomadas por um profissional cansado, mal pago e extraordinariamente atento, sentado ao lado de uma cama, sem qualquer algoritmo a dizer-lhe o que fazer.
A inteligência artificial não vai salvar a saúde. Também não a vai destruir. Vai fazer exatamente aquilo que todas as tecnologias poderosas sempre fizeram ao longo da história da medicina: amplificar fielmente as virtudes e os vícios do sistema em que é instalada. Um sistema generoso, bem-dotado e eticamente vigilante vai usá-la para cuidar melhor. Um sistema desleixado, subfinanciado e tecnicamente desatento vai usá-la para fazer pior, mais depressa, e com um relatório de desempenho extraordinariamente convincente para mostrar ao Conselho de Administração.
A escolha entre estes dois futuros não vai ser feita por nenhuma máquina. Vai ser feita, como sempre foi, por nós – ou, mais provavelmente, por quem assinar o próximo contrato de aquisição de software sem ler a letra pequena. E essa, lamento informar os entusiastas e os apocalípticos por igual, continua a ser uma decisão lamentavelmente humana!