(c) 2023 am|dev

(A) :: A IA não é o perigo. Abdicar de pensar, sim, é o perigo!

A IA não é o perigo. Abdicar de pensar, sim, é o perigo!

Na era da IA, e mais do que nunca, precisamos de aprender a pensar criticamente. E até a saber o que é efetivamente o pensamento crítico. 

José Crespo de Carvalho
text

Apesar do entusiasmo em torno da IA generativa, também partilhado por mim, aprender continua a ser totalmente indispensável. A UNESCO, no Courier Unesco ainda agora no início de Abril de 2026, recorda que o medo de as novas tecnologias substituírem a aprendizagem não é nada de verdadeiramente novo: já aconteceu com a escrita, com os livros e com a internet. E eu acrescentaria com a passagem à calculadora, a passagem ao PC e muito mais. Com um adicional. A IA, ao contrário do que se pensa, não é efetivamente uma tecnologia. É muito mais que isso e requer gestão, muita gestão.

A diferença para o passado é que a IA é o primeiro salto numa revolução anunciada que mimetiza de forma convincente capacidades humanas efetivas, o que reacende a pergunta: se a máquina escreve, resolve equações e programa, se gera slides, faz reports e muito mais, ainda precisamos de aprender?

A resposta é clara: sim. E porquê? Porque a educação não serve apenas para transmitir conhecimento. Serve também para socializar os indivíduos e para formar pessoas autónomas, capazes de pensar por si e assumir responsabilidade pelas suas vidas. Ou seja, sem pensamento próprio colocaríamos em causa a capacidade de sermos efetivamente autónomos nas decisões, melhores ou piores, a assumirmos responsabilidades várias em termos de vida e, obviamente, a pensarmos quer sobre decisões quer sobre responsabilidades. Ao demitir-nos do papel de seres pensantes, autónomos e responsáveis precisaríamos de alguém para tomar conta de nós. Queremos isso? Melhor: Precisaríamos de uma máquina para tomar conta de nós. Queremos isso? E o que é um facto é que se não queremos temos de fazer por não querer e, claramente, aprender. Continuar a aprender.

Claro que a IA apoia certas tarefas de aprendizagem. E bem. Não obstante, não substitui os supramencionados outputs centrais, ou dimensões humanas, da educação e do processo de educação.

A IA generativa produz respostas fluidas e convincentes, mas cheias de enviesamentos, erros e um “nonsense” que até é, pasme-se, plausível. E vê-se muito boa gente a ser complacente com esse mesmo “nonsense”. Isto acontece porque a IA não compreende necessariamente a verdade: apenas prevê sequências prováveis com base nos dados com que foi treinada. Por isso, em vez de tornar a aprendizagem desnecessária, obriga-nos a aprender mais criticamente, interrogando e verificando tudo o que essa mesma IA produz. Nunca como antes foi tão necessário o pensamento crítico e nunca como antes a necessidade de nos treinarmos a pensar “fora da máquina” foi tão evidente.

Uma coisa é a IA ser um apoio. E integrá-la, alavancando o que fazemos, no nosso dia a dia. Outra é deixarmo-nos levar por ela, abdicando das nossas faculdades cognitivas, críticas e de autonomia e responsabilidade para sucumbirmos à total dependência da máquina. Seríamos todos seres vegetativos, numa espécie de terceira idade em que perderíamos todas as faculdades e tanto poderíamos viver mais uns anos como menos. Isso seria irrelevante. E irrelevante seria também a forma como queríamos ou não viver e as escolhas que faríamos. Tudo seria ditado por alguém externo a nós. Não é isso, parece-me, que se pretende para os seres humanos.

Há estudos que contestam a ideia de que LLM’s (Large Language Models como por exemplo ChatGPT, Copilot, Claude) melhoram realmente a aprendizagem. Alguns resultados sugerem até que a IA funciona como muleta cognitiva: ajuda enquanto está disponível, mas, quando desaparece, todo o ser humano pode ter pior desempenho do que aqueles que nunca dependeram de nada. Daqui decorre o risco de atrofia cognitiva, com memória de longo prazo mais fraca e menor capacidade de pensar autonomamente.

Há ainda outros problemas que não caberão no contexto deste breve artigo: a comercialização da educação, o impacto ambiental da IA e o agravamento das desigualdades, para só mencionar alguns. A conclusão parece ser, indubitavelmente, que, na era da IA, e mais do que nunca, precisamos de aprender a pensar criticamente. E até a saber o que é efetivamente o pensamento crítico.

Nunca seria contra a IA. Impossível. Mas sou, sim, contra o abdicar inconsciente dos processos de aprendizagem que nos tornam mais autónomos, mais responsáveis e decisores mais empenhados e críticos. Tenho-o dito e repetido inúmeras vezes nos últimos tempos. A formação de executivos é uma arma essencial para, usando IA, combater esse caminho fácil de abdicação do pensamento crítico. Uma das razões, de resto, pelas quais se torna cada vez mais crítica essa mesma formação e o investimento em nós mesmos.