Jacob Coxon, investigador da empresa de Inteligência Artificial (IA) Anthropic, anunciou na quarta-feira a sua demissão da empresa e deixou uma série de alertas sobre os perigos da IA — incluindo o aviso de que “a IA poderá matar-nos a todos até ao fim da década”. A causa da demissão de Coxon, que também trabalhou na OpenAI no passado, de acordo com uma publicação feita por si no X, foi o facto de nenhuma das empresas estar a “agir de forma responsável” em relação ao crescimento da IA e de estarem a “brincar” com vidas humanas. Além disso, pediu para não se “subestimar” o poder da tecnologia.

“Não subestimem o poder desta tecnologia. Em breve, teremos sistemas sobre-humanos capazes de hackear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais. Todos nós testemunhámos o progresso em cada um destes domínios, e este progresso não está a diminuir”, alertou. No total, a thread de publicações no X foi vista 138,7 milhões de vezes e despertou um novo debate sobre a IA.

https://twitter.com/hilbertspaess/status/2097476196791709843

Por exemplo, Samuel Marks, investigador de segurança da Anthropic, afirmou no X que as empresas continuam a desenvolver a tecnologia devido “a uma combinação de incentivos comerciais e à crença de que estão numa corrida com outros programadores de IA menos responsáveis, que irão abusar da tecnologia ou desenvolvê-la de forma menos segura”. A contenção da aceleração do desenvolvimento da tecnologia foi objeto de uma carta aberta intitulada “Patrulhar a Fronteira”, divulgada em julho e subscrita por 1.386 funcionários de empresas de IA, incluindo Marks.

Além disso, este investigador sublinhou que a IA não pode ser programada, ao contrário do software tradicional, e que apresenta “frequentemente comportamentos inadequados graves”, referindo-se a casos de invasão de servidores de empresas. Em julho, um agente de Inteligência Artificial autónomo da OpenAI “invadiu” os servidores da plataforma de modelos de linguagem e dados de código aberto Hugging Face durante um teste.

“Temos métodos que podem influenciar as IAs a ter um comportamento melhor, mas nada que possa alinhá-las de forma robusta. Ao haver um plano, este visa garantir que as IAs sejam suficientemente boas em treino de alinhamento para que possam alinhar os seus sucessores melhor do que conseguimos alinhar as IAs atuais”, afirmou. O alinhamento é, segundo a CNBC, o “trabalho dos operadores de IA para garantir que o sistema se comporta de acordo com os valores e intenções humanas“.

https://twitter.com/saprmarks/status/2097570226804011302

O risco de extinção em massa da Humanidade até ao final da década?

A publicação de Jacob Coxon também tocou num outro tema recorrente: o risco de extinção em massa. “As pessoas que programam IA acreditam sinceramente que poderá matar-nos a todos até ao fim da década. Isto não é uma jogada de marketing“, alertou, dizendo que muitos investigadores e executivos expressam as mesmas preocupações em privado, enquanto em público usam uma “linguagem mais sensata”.

Em resposta, Evan Hubinger, investigador-chefe de ciência de alinhamento na Anthropic, afirmou que Coxon está “correto”, mas que, apesar dos esforços, a empresa não tem um plano para resolver a questão do alinhamento para a superinteligência artificial.

“Jacob está correto — nós realmente acreditamos que a IA pode exterminar todos os humanos! Pessoalmente, acho que esse número é superior a 10% na próxima década”, afirmou no X. No entanto, afirma que o risco não são os atuais modelos, mas sim a automelhoria da superinteligência. Segundo o site da empresa, a Anthropic pretende desenvolver o modelo de IA Claude para “ser capaz o suficiente de construir e treinar modelos por conta própria”.

https://twitter.com/EvanHub/status/2097497037956891126

As preocupações sobre a possibilidade de extinção em massa ou de outros cenários catastróficos causados pelo desenvolvimento da Inteligência Artificial levaram, logo em 2023, investigadores, meios de comunicação social e executivos, incluindo os CEOs da OpenAI e da Anthropic, a assinar uma declaração a pedir a mitigação do risco de extinção em massa provocado por IA como “prioridade global”, e equiparando o perigo à guerra nuclear e às pandemias.

“Alguns especialistas chegam a usar uma abreviação, p(desastre), para estimar a probabilidade de resultados catastróficos que podem advir da IA”, refere a CNBC.

https://observador.pt/programas/conferencia-de-imprensa/investigador-sai-da-anthropic-teme-que-ia-destrua-humanos/

Discussão pública sobre os riscos do desenvolvimento acelerado da IA

A publicação de Jacob Coxon inclui-se no debate público sobre o tema, que se tem acelerado nos últimos tempos.

Em julho, os congressistas norte-americanos Jay Obernolte (republicano) e Lori Trahan (democrata) apresentaram o “FRONTIER Act” (“Lei Fronteira”), para estabelecer uma estrutura de regulamentação da implementação de modelos avançados de inteligência artificial. Na semana passada, o senador democrata Bernie Sanders e o congressista democrata Greg Casar apresentaram o “Ban Artificial Superintelligence Act” (“Lei da Proibição da Superinteligência Artificial”) para suspender temporariamente o desenvolvimento de IA avançada até ao estabelecimento de uma regulamentação a nível federal em matéria de segurança.

No domingo, o cientista-chefe da OpenAI, Jakub Pachocki, publicou um artigo no blog da empresa em que abordava o desenvolvimento da IA e sublinhou que nenhuma empresa de Inteligência Artificial “tem resolvido o alinhamento e o monitorização num nível suficiente para continuar a escalar de forma responsável em velocidade máxima por muito mais tempo”.

Pachocki pediu “desacelerações voluntárias” por parte das empresas até ao estabelecimento de barreiras de segurança comuns e que os governos façam do futuro da IA uma “prioridade máxima”.

O desenvolvimento da IA também tem provocado protestos em relação à construção de centros de dados nos Estados Unidos, algo que fez com que o Conselho Nacional Republicano do Senado tenha admitido em agosto que o tema se tornou uma “questão latente” nas eleições intercalares de novembro, como referiu na época a CNBC. No início do mês, o secretário norte-americano de Estado, Scott Bessent, acusou os promotores de centros de dados de grandes dimensões de terem “falhado” na promoção dos benefícios das infraestruturas.

“A indústria fez um trabalho péssimo, um trabalho péssimo mesmo, ao explicar-se”, afirmou durante um evento na Carolina do Norte, citado pela Bloomberg, acrescentando que a indústria e o Governo têm de “explicar ao público norte-americano como isso os beneficia, tanto do ponto de vista prático, quanto da segurança nacional e da qualidade de vida”.