Enquanto muitas organizações ainda discutem estratégias, políticas e projetos-piloto, os seus colaboradores já estão a utilizar Inteligência Artificial. O desafio deixou de ser apenas adotar IA. Passou a ser perceber aquela que já entrou na empresa sem pedir autorização.

Há uma boa probabilidade de a sua empresa já estar a discutir uma estratégia para Inteligência Artificial.

Há uma probabilidade ainda maior de os seus colaboradores não terem esperado por ela.

Um estudo recente realizado pela OpinionWay para a Cegid concluiu que 84% dos trabalhadores portugueses inquiridos já utilizam Inteligência Artificial no trabalho. Um ano antes eram 65%.

Mas há um número bastante mais desconfortável: 69% admitem utilizar ferramentas externas de IA sem informar o empregador.

E apenas 6% consideram que a Inteligência Artificial está totalmente integrada na sua organização.

Colocados lado a lado, estes números contam uma história interessante.

A adoção já aconteceu. A organização é que ainda está a tentar alcançá-la.

Já vimos este filme antes

Quem trabalha há alguns anos em transformação empresarial conhece bem o Shadow IT.

Uma folha Excel criada para ultrapassar uma limitação do ERP. Uma base de dados mantida por uma equipa. Uma aplicação contratada diretamente por um departamento. Um ficheiro que começa por ser uma solução temporária e, alguns anos depois, ninguém se atreve a desligar porque uma parte da operação depende dele.

Ao longo da minha carreira encontrei muitas destas situações.

É fácil concluir que as pessoas estavam simplesmente a contornar os sistemas ou as regras da empresa.

Às vezes estavam.

Mas muitas vezes havia uma explicação mais simples: o negócio precisava de resolver um problema mais depressa do que a organização conseguia responder.

Com a Inteligência Artificial estamos a assistir a algo semelhante.

Só que agora existe uma diferença fundamental.

A barreira praticamente desapareceu

Criar uma aplicação paralela, contratar software ou desenvolver uma solução fora dos sistemas corporativos exigia normalmente conhecimento, orçamento ou algum esforço.

Com a IA generativa basta abrir um browser.

Um colaborador pode colocar um contrato numa ferramenta de IA e pedir uma análise dos principais riscos.

Um comercial pode introduzir informação sobre um cliente para preparar uma proposta.

Um programador pode partilhar código para tentar identificar um problema.

Um gestor pode utilizar informação interna para preparar uma decisão.

E uma equipa pode começar a depender diariamente de uma ferramenta que nunca passou por IT, Segurança, Jurídico ou Compliance.

Tudo isto pode acontecer antes de alguém perceber que existe uma nova dependência tecnológica dentro da organização.

É aquilo a que começámos a chamar Shadow AI.

E existe uma diferença importante em relação ao antigo Shadow IT.

A IA não precisa de suportar um processo inteiro para criar risco. Por vezes basta uma interação.

Um documento. Um excerto de código. Informação de um cliente. Dados financeiros. Uma resposta utilizada numa decisão sem que ninguém tenha verificado suficientemente a sua qualidade.

O problema, por isso, já não é apenas saber que aplicações existem dentro da empresa.

É saber que informação está a ser utilizada, onde, para quê e com que consequências.

Proibir é fácil. Resolver é mais difícil.

A reação mais imediata pode ser bloquear.

É compreensível.

Existem questões reais de confidencialidade, proteção de dados, propriedade intelectual, segurança, qualidade da informação e responsabilidade.

A regulação está também a avançar. Na União Europeia, o AI Act introduziu um enquadramento baseado no risco e, desde 2 de agosto deste ano, passaram a aplicar-se novas obrigações de transparência para determinados sistemas e utilizações de IA, incluindo situações em que é necessário informar as pessoas de que estão a interagir com IA ou identificar determinados conteúdos gerados ou manipulados artificialmente.

Mas transformar o Shadow AI apenas numa questão de compliance seria um erro.

Porque bloquear uma ferramenta não elimina necessariamente a necessidade que levou alguém a utilizá-la.

Pode simplesmente tornar essa utilização menos visível.

Se uma pessoa descobre que consegue realizar em vinte minutos uma tarefa que anteriormente lhe ocupava duas horas, existe um incentivo muito forte para continuar.

Por isso, antes de perguntarmos apenas:

“Como impedimos os colaboradores de utilizar ferramentas não autorizadas?”

talvez devêssemos perguntar:

“Porque sentiram necessidade de as utilizar?”

A segunda pergunta pode ensinar-nos muito mais sobre a empresa do que a primeira.

O Shadow AI também é um mapa dos problemas da empresa

Quando encontramos vinte folhas Excel paralelas a um ERP, podemos decidir eliminá-las.

Mas convém primeiro perceber porque existem.

Algumas são desnecessárias. Outras resultam de falta de formação. Algumas escondem processos que deveriam ter sido alterados há anos. E outras resolvem necessidades reais às quais o sistema oficial nunca respondeu adequadamente.

Com a Inteligência Artificial acontecerá algo semelhante.

Se dezenas ou centenas de pessoas começam espontaneamente a utilizar IA para a mesma tarefa, a organização não está apenas perante um problema de controlo.

Está também a receber um sinal sobre onde as pessoas estão a encontrar valor que a empresa ainda não conseguiu institucionalizar.

Talvez passem demasiado tempo à procura de informação.

Talvez exista um processo desnecessariamente complexo.

Talvez produzam documentação que já não deveria ser produzida manualmente.

Talvez uma tarefa que ocupa horas possa ser redesenhada.

Ou talvez tenham simplesmente encontrado uma forma melhor de trabalhar.

É aqui que acredito que algumas organizações poderão cometer um erro.

Ao tentarem eliminar todo o Shadow AI, podem acabar por eliminar também os sinais que mostram onde deveriam transformar-se.

Governar não significa controlar tudo

Nada disto significa que cada pessoa deva poder utilizar qualquer ferramenta com qualquer informação.

Muito pelo contrário.

É necessário saber quais as ferramentas autorizadas, distinguir informação pública de informação confidencial ou sensível, formar as pessoas e estabelecer limites claros.

Mas também é necessária proporcionalidade.

Utilizar IA para melhorar a redação de um texto público não tem o mesmo risco que utilizá-la numa decisão sobre um trabalhador, um cliente, uma operação crítica ou informação confidencial.

Aplicar exatamente o mesmo controlo a situações radicalmente diferentes não é necessariamente boa governação.

Governar IA não é criar o maior número possível de regras. É colocar as regras certas onde o risco realmente existe.

E existe um paradoxo que merece atenção.

Quanto mais difícil for utilizar oficialmente a Inteligência Artificial, maior poderá ser o incentivo para utilizá-la informalmente.

Uma boa política de IA deveria, por isso, fazer mais do que dizer às pessoas aquilo que não podem fazer.

Deveria permitir-lhes perceber claramente o que podem fazer, com que ferramentas e dentro de que limites.

E ainda só estamos no início

Até agora, grande parte desta utilização informal consiste em pessoas que fazem perguntas a ferramentas e recebem respostas.

A próxima fase será mais complexa.

Os agentes de IA começam a permitir que sistemas consultem diferentes fontes, utilizem ferramentas, acompanhem processos e executem determinadas ações dentro das permissões que lhes são atribuídas.

Nesse momento, a discussão deixa de ser apenas:

“Que informação podemos colocar numa IA?”

Passa também a ser:

“A que informação pode esta IA aceder?”

“Que ações pode executar?”

“Em nome de quem?”

“Quem é responsável quando alguma coisa corre mal?”

Uma coisa é um colaborador utilizar uma ferramenta não aprovada para resumir um documento.

Outra é um agente ter acesso a sistemas empresariais e participar na execução de um processo.

Quando a IA deixa de apenas produzir informação e começa a participar na execução, identidade, permissões, rastreabilidade e responsabilidade deixam de ser detalhes técnicos. Tornam-se questões de gestão.

A IA já entrou na empresa

Durante anos, o Shadow IT cresceu porque as ferramentas oficiais nem sempre conseguiam acompanhar todas as necessidades do negócio.

O Shadow AI está a crescer pela mesma tensão, mas a uma velocidade completamente diferente.

E talvez seja esse o verdadeiro alerta.

Não temos apenas um desafio de adoção de Inteligência Artificial. Temos uma distância crescente entre a velocidade de adoção individual e a capacidade das organizações para a integrar e governar.

As empresas que melhor atravessarem esta transformação não serão necessariamente aquelas que mais restringirem a IA.

Também não serão as que comprarem mais ferramentas ou anunciarem mais projetos.

Serão aquelas que conseguirem perceber o que as suas pessoas já estão a fazer, identificar onde existe valor, separar experimentação de risco e transformar utilização individual em capacidade empresarial.

Porque a pergunta já não é:

“Quando devemos começar a utilizar Inteligência Artificial?”

Em muitas organizações, essa pergunta chegou tarde.

A pergunta agora é outra:

“Sabemos como a Inteligência Artificial já está a ser utilizada dentro da nossa empresa?”

E talvez algumas administrações não gostem da resposta.