E se uma das empresas da vaga recente da inteligência artificial (IA) disser que criou um modelo tão poderoso que teme lançá-lo ao público? Desde a semana passada que o cenário é real. A ameaça chama-se Mythos e foi criada pela Anthropic.

A empresa responsável pelo chatbot Claude revelou ter desenvolvido um modelo de IA capaz de identificar vulnerabilidades em sistemas de segurança. No espaço de “algumas semanas”, o Mythos foi capaz de encontrar “milhares de vulnerabilidades de elevada gravidade” nos principais sistemas operativos e navegadores.

“Os modelos de IA chegaram a um nível de capacidade de programação que lhes permite superar todos os seres humanos, com exceção dos mais experientes, na deteção e exploração de vulnerabilidades de software”, explicou a empresa. As descobertas foram suficientes para a tecnológica tomar uma decisão: o Mythos não vai chegar às mãos do público, por a empresa temer que possa ir parar a utilizadores com más intenções.

Assim, por agora só um conjunto de empresas dos EUA, incluindo várias big tech, é que têm acesso ao modelo em modo de pré-visualização. A ideia é que possam usar o Mythos Preview (pré-visualização) para detetar vulnerabilidades nos próprios sistemas e conseguir corrigi-las antes de serem exploradas e causarem problemas.

O tom de alerta da descoberta da Anthropic foi o suficiente para fazer surgir na indústria termos como “bugmaggedon”, uma mistura entre as palavras bug (erro) e Armaggedon, ou até de “vulnpocalypse” — apocalipse de vulnerabilidades.

O que é o Mythos? Para que serve?

O Mythos é um modelo de linguagem de larga escala (LLM, em inglês), que revelou ter um “desempenho forte” nas tarefas ligadas à segurança informática. Dario Amodei, o CEO da Anthropic, descreveu as competências do Mythos como uma espécie de “efeito secundário”. “Não o treinámos para ser especificamente bom em cibersegurança, treinámo-lo para ser bom em código”, disse o executivo no vídeo de apresentação do modelo.

https://www.youtube.com/watch?v=INGOC6-LLv0

Durante os testes, o Mythos foi “capaz de identificar e explorar vulnerabilidades zero-day [ainda por identificar] em todos os principais sistemas operativos e principais navegadores, quando instruído por um utilizador para o fazer”. Segundo a empresa, estas fragilidades eram “frequentemente subtis ou difíceis de detetar” por um humano.

O Mythos conseguiu encontrar uma vulnerabilidade com 27 anos no sistema operativo OpenBSD, “que tem a reputação de ser um dos sistemas operativos mais seguros do mundo”. De acordo com a Anthropic, tornava possível entrar remotamente numa máquina e gerar um erro. O Mythos também encontrou uma vulnerabilidade com 16 anos numa linha de código do FFmpeg, um software usado para processar conteúdos multimédia.

“O Mythos não foi uma surpresa para quem estava a prestar atenção”, diz ao Observador Rob T. Lee, analista-chefe de IA e diretor de investigação do norte-americano SANS Institute. “A minha equipa no SANS usa modelos de IA para encontrar vulnerabilidades em testes de penetração há 15 meses”, explica.

“Para quem, como eu, está do lado da defesa [o Mythos] é incrível porque permite encontrar as vulnerabilidades antes de quem tem más intenções”, explica Giovanni Vigna ao Observador. Além de professor no departamento de Ciências da Computação da Universidade da Califórnia em Santa Bárbara, dirige o ACTION, o instituto dedicado ao estudo das ameaças cibernéticas e operações de agentes de IA. É fundador do grupo hacker Shellphish, a equipa que mais vezes participou em competições da DEFCON, o evento que reúne anualmente a comunidade em Las Vegas.

https://observador.pt/especiais/um-telefone-uma-cabine-um-cronometro-e-um-alvo-como-a-cacadora-teresa-pereira-entrou-numa-das-maiores-competicoes-de-vishing-do-mundo/

Vigna também conhece o pensamento de quem está do outro lado. “Se eu estou do lado da defesa tenho de conhecer todas as vulnerabilidades” para poder corrigi-las. “Já quem ataca só precisa de chegar primeiro que eu a uma vulnerabilidade que eu ainda não descobri — e pode entrar no meu sistema.” É uma “óbvia assimetria” que faz com que, “a curto prazo, estes modelos sejam mais úteis para quem ataca do que para quem está à defesa”.

Rich Mogull, analista-chefe da Cloud Security Alliance (CSA), realça que o anúncio do Mythos “foi um momento seminal, não pelo modelo em si, mas pelo que representa”. A CSA é uma organização sem fins lucrativos que se dedica à consciencialização da cibersegurança em temas como IA ou a cloud. O especialista norte-americano refere que o modelo da Anthropic é um passo “numa trajetória para não ser preciso tempo nem competências para descobrir novas vulnerabilidades, criar formas de explorá-las e usá-las para fazer ataques encadeados avançados”, diz ao Observador.

Esta ideia de poder explorar pontos fracos sem grandes conhecimentos técnicos também consta da documentação de apoio da Anthropic sobre o modelo. “Mesmo quem não é especialista pode recorrer ao Mythos Preview para identificar e explorar vulnerabilidades sofisticadas”, notou a equipa de testes da empresa. “Os engenheiros da Anthropic, sem formação formal em segurança, pediram ao Mythos Preview que identificasse vulnerabilidades de execução remota de código durante a noite e, na manhã seguinte, encontraram um exploit completo e funcional.”

Porque não está disponível para o público em geral?

A Anthropic teme as consequências imprevisíveis de ter um modelo deste género sem um acesso controlado. “Dado o ritmo dos avanços na IA, não demorará muito para que essas capacidades se generalizem, potencialmente para lá dos intervenientes empenhados em utilizá-las de forma segura”, declarou a empresa. “As consequências — para as economias, a segurança pública e a segurança nacional — poderão ser graves.”

“Dar este tipo de capacidades ao público de uma forma ampla tem riscos”, sublinha o veterano Giovanni Vigna. “Num mundo ideal, toda a gente que recebe um grande poder usa-o de forma muito responsável. Mas a História ensinou-nos que não é esse o padrão.”

O especialista e professor da Universidade da Califórnia em Santa Bárbara considera que “vai ser difícil navegar num mundo em que a IA não está só a amplificar as capacidades de segurança”. Vigna lembra que a tecnologia pode ser benéfica a poupar tempo em resumos ou a aumentar a produtividade. “Mas também é uma ferramenta fantástica para fazer esquemas, gerar deepfakes, fazer mais phishing… É uma ferramenta, tanto pode ser usada para o bem como para o mal.”

Ainda assim, descreve-se como tendo algum otimismo em relação à IA . “A IA tem a capacidade de estar a fazer testes contínuos de segurança”, nota, também pela capacidade de analisar grandes quantidades de informação em pouco tempo. “Imagine a sua casa: há um pequeno robô cujo único objetivo diário é verificar se as janelas e as portas estão fechadas, que o fogão está desligado, para não se esquecer de nada.” É uma diferença em relação aos testes pontuais de segurança, com “custos elevados e que são feitos uma vez”.

E o que é o projeto Glasswing?

Foi o nome escolhido pela Anthropic para designar o projeto em que dá acesso ao Mythos, em formato de pré-visualização, a um grupo restrito de empresas. Há uma dúzia de empresas conhecidas a ter acesso ao modelo: a lista inclui a Apple, Amazon Web Services (AWS), Google, Cisco, Nvidia, Microsoft, Broadcom ou a Nvidia. A Palo Alto Networks e a Crowdstrike representam o setor da segurança, enquanto o JPMorgan Chase é o único representante do setor da banca. Também a Fundação Linux vai ter acesso ao modelo. Há ainda mais 40 organizações, “que mantêm infraestrutura crítica de software”, que vão ter acesso ao modelo. Porém, a lista completa não foi divulgada.

Ao colocar as capacidades do modelo nas mãos destas empresas, a Anthropic espera que as organizações possam perceber os pontos fracos e corrigi-los. “Consideramos que é mais uma vez tempo de lançar uma iniciativa agressiva a pensar no futuro”, disse a equipa de testes da Anthropic. “Mas, desta vez, a ameaça não é hipotética. Os modelos avançados de linguagem já estão aqui.”

A ideia é que as empresas possam também partilhar as descobertas entre si, numa lógica de cooperação.

O aviso da Anthropic deve ser levado a sério ou é uma questão de hype?

Os especialistas defendem que há uma diferença entre a capacidade de encontrar uma vulnerabilidade e aplicar uma resolução — a habitual expressão patch. Na documentação de apoio divulgada pela equipa da Anthropic é explicado que “99% das vulnerabilidades encontradas” pelo modelo não foram ainda resolvidas.

Mas, para já, o aviso está a ser encarado com seriedade. “É claro que a Anthropic quer tirar proveito disto, é uma empresa”, reconhece Giovanni Vegna. “Mas se isto fosse um golpe de marketing podiam só dizer ‘o meu modelo é o melhor’ e ficar por aí. Em vez disso, disseram ‘achamos que o nosso modelo é o melhor e vamos dar-vos acesso gratuito [ao grupo de empresas] para experimentarem’”. A Anthropic comprometeu-se a investir 100 milhões de dólares (85 milhões de euros) em créditos de uso para as empresas usarem o modelo.

Ao Observador, também Rich Mogull, da CSA, descarta a ideia de hype. “O relatório da red team [expressão dada a equipas que testam as defesas e sistemas de segurança, neste caso da Anthropic] tem amplas provas técnicas para suportar as afirmações.”

Além disso, Mogull remete para a avaliação independente feita pelo britânico AI Security Institute. “Os nossos resultados mostram que o Mythos Preview representa um avanço em relação aos modelos de ponta anteriores, num contexto em que o desempenho cibernético já estava a melhorar rapidamente”, concluiu o instituto. Na publicação feita a 13 de abril, foi referido que, “quando explicitamente indicado” o modelo conseguiu “fazer ataques de várias fases a redes vulneráveis e descobrir e explorar vulnerabilidades de forma autónoma — tarefas que seriam dias de trabalho para profissionais humanos”.

Rob T. Lee, analista-chefe de IA e diretor de investigação do norte-americano SANS Institute, que se dedica às certificações em cibersegurança, tem uma perspetiva diferente. Considera que há razões factuais para alerta, mas também algum hype. “E é por isso que isto é tão confuso.” Ao mesmo tempo que realça “a taxa de sucesso de exploração de 72,4% do Mythos, enquanto modelos anteriores tinham 1%”, fala em “barulho à volta do modelo”. Descreve como um “problema” o facto de a Anthropic ter feito chegar o Mythos aos parceiros do Glasswing “sem guias sobre o que fazer com ele”, e que por isso “a conversa online tornou-se 80% pânico e 20% de substância no espaço de 48 horas”.

Dos 450 profissionais de cibersegurança com quem falou na última semana, “ninguém perguntou se devia entrar em pânico, estavam era a perguntar porque é que não foi acompanhado por uma capacidade operacional” de resolução de vulnerabilidades.

Quais podem ser as consequências de ter este modelo à solta?

O anúncio da Anthropic deixou muita gente em alerta pelos riscos de ter uma IA que consegue encontrar vulnerabilidades em pouco tempo. Afinal, com uma crescente digitalização das empresas a superfície possível de ataque expandiu-se muito.

Ao Observador, Rich Mogull, o analista-chefe da Cloud Security Alliance, perspetiva que as “empresas vão ter de enfrentar muito mais dificuldades que serão descobertas neste programa Glasswing e também a complexidade de resolvê-las.” “Vai ser incrivelmente difícil aplicar correções em sistemas complexos sem danificar as coisas”, considera.

Já Giovanni Vigna é mais claro nos avisos, centrando-se nos setores críticos. “Os bancos, o sistema elétrico, o sistema de abastecimento de água…”. “Se estou preocupado que se possa vandalizar o site de algum programa de televisão? Não. Mas se se tornar possível fazer ataques a bancos em larga escala ou se se tornar possível encontrar vulnerabilidades que possam ter impacto na distribuição de eletricidade no Norte do Atlântico… Esses são problemas sérios.”

Recorda o ataque informático à rede de oleodutos Colonial, nos EUA, em 2021. “Foi um ataque de ransomware a uma única empresa na costa leste que teve consequências em toda a distribuição de petróleo e afetou a distribuição de gasolina aos postos de abastecimento. Estas situações podem multiplicar-se e podem ser muito graves.”

https://observador.pt/2021/05/09/ciberataque-a-maior-rede-de-oleodutos-dos-eua-obriga-a-suspender-operacoes/

Rich Mogull, da CSA, teme as consequências para a banca. “É, sem dúvida, um motivo de grande preocupação. Têm enormes quantidades de código e são os maiores utilizadores de tecnologia do mundo. Portanto serão fortemente afetados”, alerta o veterano. “As instituições maiores, que são fortemente reguladas, poderão ter maiores fronteiras de segurança implementadas, que podem ajudar.”

De acordo com a Reuters, o alarme ativado pela Anthropic já gerou alguns pedidos de reuniões. Nos EUA, Canadá e Reino Unido, há governantes que já se encontraram com os líderes dos principais bancos para discutir a ameaça do modelo de IA. O Banco Central Europeu (BCE) também estará a preparar-se para inquirir junto dos bancos europeus os possíveis riscos do modelo da Anthropic, disse uma fonte à Reuters.

O Tesouro dos EUA avançou à Reuters que a administração Trump está a pressionar as instituições financeiras a “compreender e antecipar uma vasta gama de evoluções do mercado”, estando planeados mais encontros. Esta quinta-feira, a Bloomberg escreve que a Anthropic pretende fazer chegar o Mythos às instituições financeiras do Reino Unido na próxima semana para que possam testar as suas capacidades.

https://twitter.com/business/status/2044717554048913482

Há pontos em comum com o bug do milénio?

Sim, consideram alguns especialistas. Também conhecido como bug do Y2K, o bug do milénio foi uma dor de cabeça na passagem do ano 1999 para 2000, temendo-se um desastre de grandes proporções para os sistemas informáticos. Muitos sistemas da altura estavam preparados para assumir a data com apenas dois dígitos — por exemplo, 1999 como 99. Com a mudança de milénio, temeu-se que 2000 fosse confundido com 1900. Foram feitos investimentos de muitos milhões para tentar acautelar possíveis consequências para a infraestrutura informática mundial.

Rich Mogull, analista-chefe de segurança da Cloud Security Alliance (CSA), vê semelhanças entre o bug do milénio e o Mythos, com 26 anos de diferença. “Tal como aconteceu com o Y2K, o impacto vai ser amplo”, diz ao Observador. “Temos a oportunidade de tirar partido desta janela temporal em que quem defende pode ter mais capacidades do quem ataca”, considera este especialista. “Cabe-nos usar este tempo, fortalecer-nos para que quando estas ferramentas estejam mais disponíveis, nós possamos estar mais fortes.”

Já numa nota da CSA, Mogull fez a comparação, sublinhando que o bug do milénio não teve consequências grandes porque “foi tratado como um problema sistémico, com um prazo rígido e com recursos nacionais para o enfrentar”. “Temos de pensar da mesma forma neste caso”, disse na nota. Mas com uma diferença considerável, realçou. “Neste caso não podemos estar à espera de que os governos ajudem; isto vai avançar muito depressa e os governos têm mais coisas a acontecer hoje em dia.”

Rob T. Lee, do SANS Institute, também vê pontos comuns. “O Y2K forçou todas as organizações a auditarem o seu património de software dentro de um prazo. E é isso que está a acontecer agora”, explica ao Observador. “O Y2K tinha uma data no calendário. Isto não tem. É uma aceleração, o que de alguma forma faz com que seja mais difícil” para as empresas se organizarem.

Que outras diligências já foram feitas devido ao Mythos?

O anúncio da Anthropic sobre o Mythos e o Project Glasswing gerou movimentações também fora dos EUA — incluindo em agências de cibersegurança na Europa.

Ao Observador, a Agência da União Europeia para a Cibersegurança (ENISA) confirma que “há contacto” com a Anthropic sobre o modelo, mas que não pode para já avançar mais detalhes. É reconhecido que, “com este novo modelo, a segurança pública é, por isso, uma preocupação; é essencial implementar as melhores práticas de cibersegurança e garantir que os próprios modelos não sejam alvo de abusos ou manipulação”. E, lembra a agência, já “foram reportados vários casos em que agentes maliciosos usaram e abusaram” de modelos de IA para “melhorar as suas capacidades operacionais”.

O Observador contactou o Centro Nacional de Cibersegurança (CNCS) para perceber se há algum tipo de diligência junto da empresa norte-americana. “O CNCS, enquanto coordenador operacional e autoridade nacional em matéria de cibersegurança, no âmbito do Regime Jurídico da Cibersegurança, está a acompanhar o tema”, a par de “outras congéneres e da Comissão Europeia”.

“Tendo em conta a informação pública, é útil assinalar que o poder que este e outros modelos tenham de detetar vulnerabilidades deverá ser acompanhado, por um lado, de processos coordenados de gestão e mitigação de vulnerabilidades por parte dos fabricantes e, por outro, de processos expeditos de patching por parte das entidades críticas e essenciais”, diz fonte oficial.

A versão europeia do Politico falou com oito agências nacionais de cibersegurança da União Europeia — apenas a agência alemã confirmou o contacto com a empresa norte-americana. Job Holzhauer, porta-voz da agência alemã BSI, notou ao Politico que “é difícil verificar o verdadeiro impacto das vulnerabilidades encontradas sem os detalhes técnicos”.

Esta sexta-feira, Thomas Regnier, porta-voz da Comissão Europeia, foi questionado sobre os impactos do Mythos. O porta-voz afirmou que a “Comissão Europeia e a Europa não foram postas de lado” neste tema, acrescentando que há uma “interação” com a empresa norte-americana. “Estamos a receber informação da empresa e vamos partir daí.”

A Anthropic é a única empresa a fazer algo deste tipo?

Não. No próprio anúncio da Anthropic é dito que será uma questão “de alguns meses” até haver mais ferramentas deste tipo, também capazes de avanços substanciais na área. “O que hoje está restrito no Mythos estará certamente disponível para todos dentro de alguns anos”, equaciona Rich Mogull, da CSA. “E, de uma forma realista, poderemos vê-lo [no mercado] dentro de quatro a seis meses.”

“Isto vem aí”, alerta Rob T. Lee. “Outros modelos vão atingir estas capacidades. E nem toda a gente vai gerir a questão da mesma forma que a Anthropic”, alerta.

Não foi preciso muito tempo até o Mythos ganhar rivais. Esta semana, a OpenAI anunciou que já tem um concorrente, o modelo GPT-5.3-Cyber. É mais um LLM focado em cibersegurança, com vários pontos em comum com a criação da dona do Claude. O modelo tem a capacidade de “melhorar sistemas de segurança e capacidades avançadas de defesa para as empresas”.

E, tal como a Anthropic, também a OpenAI está a limitar o acesso ao GPT-5.3-Cyber. O comunicado da empresa centra-se nas companhias que vão ter acesso à ferramenta, uma lista que inclui várias instituições financeiras — Bank of America, BlackRock, Bank of New York (BNY), Goldman Sachs, Morgan Stanley ou o JPMorgan Chase —, a Nvidia e a Oracle, entre outras.