“Temos de abrandar o ritmo”. O aviso foi feito sobre o desenvolvimento dos novos modelos de Inteligência Artificial (IA) e partiu do próprio CEO da Anthropic, Dario Amodei, numa publicação online efetuada este sábado e que surge numa semana em que um investigador que se demitiu da sua empresa avisou que a IA “pode matar-nos a todos até ao fim da década“.

“Nos últimos meses, fiquei convencido de que abordar plenamente os riscos exige ainda mais prudência — não se trata apenas de investir na prevenção de riscos, mas de regular o ritmo de avanço das capacidades, para que a prevenção de riscos tenha tempo de acompanhar essa evolução. Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de fazer uso sensato do tempo que ganharmos”, afirmou o responsável da empresa que desenvolve o sistema Claude.

Dario Amodei justificou esta tomada de posição por duas razões: o risco de os seres humanos perderem o controlo e a capacidade de compreensão sobre o desenvolvimento destes sistemas, bem como um recente incidente em que agentes da OpenAI atacaram um site alemão.

https://observador.pt/especiais/empresas-de-ia-estao-a-arriscar-as-nossas-vidas-dez-perguntas-sobre-o-alerta-que-pos-um-prazo-na-humanidade/

“A minha primeira preocupação é que, desde aproximadamente este verão, a IA tem vindo a avançar a um ritmo drasticamente mais rápido, impulsionada principalmente pela crescente capacidade da própria IA de construir a próxima geração de IA. Esta dinâmica é designada por ‘autoaperfeiçoamento recursivo’ e está a começar a ocorrer em todo o setor, incluindo na Anthropic, tal como nós e outros já descrevemos. Se não for controlada, poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, por isso, deve ser prosseguida com muito cuidado, se é que deve ser prosseguida”, referiu.

Já a segunda questão é descrita como o incidente OpenAI-Hugging Face (OAI-HF), em que os agentes da OpenAI atuaram “como um coletivo fanaticamente dedicado” e efetuaram ataques de cibersegurança contra alvos que não lhes tinham sido pedidos. “É fácil ignorar este incidente porque ninguém ficou ferido e os danos económicos foram mínimos, mas, na minha opinião, um enxame que possuísse maiores capacidades, mas um nível semelhante de desalinhamento, poderia ter causado danos catastróficos”, salientou.

“Dado o ritmo acelerado do desenvolvimento das capacidades de IA, receio que, dentro de 6 a 12 meses, tal enxame possa ser capaz de tomar o controlo de toda a Internet com uma botnet [rede de robôs] persistente (causando potencialmente centenas de milhares de milhões de dólares em danos) e que a escala dos danos continue a aumentar a partir daí, caso a IA se torne mais poderosa sem as salvaguardas necessárias”, referiu.

O alerta presente neste ensaio não muda a crença de Amodei de que a IA poderá ser decisiva para a melhoria da qualidade de vida das pessoas a médio prazo, com a cura da maioria das doenças existentes num espaço de 5 a 10 anos, a aceleração do crescimento económico e um reforço da democracia e da liberdade. “Sinto essa urgência a nível pessoal”, assumiu, ao lembrar a morte do seu pai com uma doença que viria a ser curada poucos anos depois: “Se utilizada com cuidado, a IA pode ser o mais recente de uma longa série de milagres tecnológicos que elevaram e enobreceram a humanidade.”

https://observador.pt/especiais/a-ia-e-o-fim-da-humanidade-tres-opinioes/

A proposta de um plano de três etapas

Os riscos que encontra no desenvolvimento desenfreado desta tecnologia impõem agora, no entender do CEO da Anthropic, uma visão mais cautelosa entre os prós e contras. Nesse sentido, Dario Amodei aponta para um plano de três etapas para uma gestão mais segura do ritmo de desenvolvimento, sem comprometer a segurança, o progresso e potenciais “dilemas geopolíticos” nessa evolução da IA.

“Para que fique claro, regular o ritmo não significa interromper a formação de modelos ou o progresso técnico, mas sim garantir que as empresas dediquem o tempo necessário para alinhar e salvaguardar os seus modelos, e que avaliadores independentes confirmem isso. O nosso quadro de moderação é uma tentativa de reforçar ainda mais o nosso compromisso com a segurança e incentivar uma corrida para o topo”, notou.

Segundo Amodei, a Anthropic vai comprometer-se unilateralmente com o primeiro passo deste plano, sem deixar de apelar aos governos mundiais para pressionarem as outras empresas na linha da frente do desenvolvimento da IA para que adotem soluções semelhantes: a integração de avaliadores. A lógica é similar à que ocorre no setor financeiro, quando bancos integram elementos das instituições de regulação/supervisão junto dos seus trabalhadores.

https://twitter.com/DarioAmodei/status/2098773920774074715

“Cada empresa pioneira na área da IA compromete-se a conceder acesso contínuo, semelhante ao de um colaborador, a uma equipa de avaliadores externos integrados (…), cuja função é verificar o cumprimento das práticas e compromissos de segurança, comunicar incidentes e ajudar a avaliar o alinhamento não só dos modelos de IA concluídos, mas também dos fluxos de trabalho e processos de treino”, explicou.

Em relação à segunda etapa, para a qual reclama “coordenação a nível de todo o setor” de desenvolvimento tecnológico da IA em países democráticos, Dario Amodei apela à definição de “normas de segurança comuns, bem como limites ao ritmo do progresso descontrolado da IA”. De acordo com o CEO da Anthropic, essa necessidade de coordenação poderia ter reflexos no ritmo do progresso científico e potenciais “desafios jurídicos”, que requerem também o envolvimento dos decisores políticos.

Por último, Dario Amodei não esquece o risco da concorrência com países não democráticos ou de cariz autoritário. “Os EUA e outros governos democráticos tentam coordenar-se com governos autoritários, na medida do possível, ao mesmo tempo que levam a sério os desafios relacionados com a verificação do cumprimento das normas”, indicou.

O cumprimento destes passos poderia, no entender de Dario Amodei, dar tempo aos principais operadores do setor para reforçarem as suas capacidades operacionais, o alinhamento destes sistemas com as normas e princípios ao nível de segurança e ética, e, finalmente, no nível de interpretação, testes e avaliação.

“Apesar de todo o progresso, ainda compreendemos apenas uma ínfima fração do que se passa no interior destes modelos. Um esforço concentrado para melhorar as nossas técnicas de interpretabilidade, ainda mais rapidamente do que estamos a fazer atualmente, poderia trazer progressos profundos em um a dois anos e contaria com amplo material experimental baseado nos incidentes que já ocorreram”, continuou, resumindo: “As medidas que proponho para fazer avançar a fronteira a um ritmo seguro não serão fáceis. Mas acredito que devemos à humanidade tentar.”

A ameaça de uma China ‘sem amarras’

Subjacente ao último dos três passos do plano proposto no seu ensaio para o abrandamento do desenvolvimento dos sistemas de IA está a China e a influência do Partido Comunista Chinês no impulsionamento das empresas chinesas do setor. Dario Amodei admitiu que este é um equilíbrio difícil de obter: uma diminuição do ritmo do progresso sem arriscar deixar a China fora de controlo e na dianteira desta tecnologia.

“O ritmo de desenvolvimento nas democracias será limitado pela vantagem que as empresas norte-americanas têm sobre os regimes autoritários, principalmente o Partido Comunista Chinês. Se abrandarmos mais do que este nível, os projetos associados ao Partido Comunista Chinês (que não estão sujeitos a restrições) passarão à frente, criando um risco significativo para a segurança nacional. Concordo com o Secretário Bessent que uma vantagem chinesa na IA representaria um grave perigo para os Estados Unidos e para o mundo“, observou.

Por isso, o CEO da Anthropic realçou a premência de as democracias manterem uma vantagem “o mais ampla possível” em matéria de IA sobre regimes autocráticos. Para corporizar a manutenção dessa supremacia, Amodei destacou três possíveis medidas destinadas diretamente a impactar o desenvolvimento chinês nesta tecnologia, com especial foco nos chips.

• “Não vender chips de IA potentes nem equipamento de fabrico de semicondutores à China e reprimir as operações de contrabando de chips e o acesso remoto a centros de dados fora da China”.
• “Combater a ‘destilação’ não autorizada por parte de empresas em países autoritários”, ou seja, que empresas menos avançadas se limitem a replicar os modelos de vanguarda de outras companhias a um custo mais reduzido.
• “Reforçar a segurança nas empresas de IA e impedir o roubo de modelos” de IA.

“Se aplicarmos bem estas medidas, acredito que elas irão abrandar o progresso da China o suficiente para alargar significativamente a vantagem dos Estados Unidos nos próximos 3 a 5 anos — o período em que a IA se tornará geopoliticamente mais importante”, sintetizou Dario Amodei, expressando a confiança de que este cenário tornará mais viável um acordo internacional neste tema.

Sam Altman e Elon Musk subscrevem alerta para abrandamento

O alerta de Dario Amodei já começou a ter repercussões no setor da IA e o CEO da OpenAI, Sam Altman, veio subscrever, numa publicação na rede social X, as preocupações manifestadas pelo concorrente da Anthropic.

“Concordo com o Dario em que precisamos de controlar o ritmo da inovação. Este tem sido um dos principais temas das discussões que temos tido na OpenAI nas últimas semanas. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos colaboradores é uma excelente ideia, e faremos o mesmo. Em breve teremos mais novidades para partilhar”, revelou.

https://twitter.com/sama/status/2098811563415150910

Mais conciso, mas não menos esclarecedor, Elon Musk, responsável pela empresa xAI (além da SpaceX, X ou Tesla), também reagiu na rede social que controla com uma mensagem constituída por apenas três palavras: “Dario tem razão”.

https://twitter.com/elonmusk/status/2098789109980332057

Antes deste alerta e das reações que surgiram ao longo deste sábado, já Donald Trump tinha comentado os receios que começavam a sentir-se no setor da IA. E, para o presidente dos Estados Unidos, o desenvolvimento atual dos sistemas de IA não lhe tira o sono, mostrando-se mais preocupado em manter uma vantagem norte-americana na concorrência com a China neste domínio.

“[Preocupações?] Não, não tenho nenhuma”, declarou o líder da Casa Branca esta semana, após a convenção republicana em Dallas, prosseguindo: “Preocupa-me que, se não vencermos na IA, vamos ficar numa posição muito desfavorável. Neste momento, estamos à frente da China por uma margem considerável”.