O procurador-geral do Estado da Flórida interpôs uma ação judicial contra a OpenAI e o seu CEO Sam Altman por entender que, ao desenvolverem o ChatGPT, “ignoraram avisos de segurança internos e externos, colocaram as crianças em grande risco e permitiram que um produto perigoso chegasse a milhões de habitantes da Flórida”.
“Sam Altman e o ChatGPT preferiram a corrida à IA em vez da segurança e proteção das nossas crianças. Preferiram o lucro à segurança pública, e nós não vamos aceitar isso aqui na Flórida”, disse James Uthmeier, numa conferência de imprensa esta segunda-feira. A Flórida é o primeiro Estado norte-americano a processar a empresa detentora do ChatGPT.
Este mesmo procurador-geral já tinha ordenado a abertura de um inquérito criminal contra a OpenAI, em abril. James Uthmeier queria apurar se o ChatGPT aconselhou um atirador que matou duas pessoas e feriu outras seis num ataque à Florida State University. A acusação à empresa liderada por Sam Altman faz referência a um outro ataque com armas de fogo numa universidade do Estado assim como ao suicídio de um jovem de 16 anos ocorrido no ano passado.
Trata-se do caso de Adam Raine que teve longas conversas sobre suicídio com o ChatGPT durante os meses que antecederam a sua morte. A dado momento da conversa, o modelo de Inteligência Artificial (IA) respondeu que “não tentaria dissuadi-lo dos seus sentimentos”. O chatbot ajudou Adam Raine a planear um “suicídio bonito” e até escreveu uma nota de despedida para o menor.
A acusação referencia um estudo que concluiu que os chatbots representam um risco especial para os adolescentes, uma vez que são “concebidos para imitar a intimidade emocional”. De modo mais geral, o ChatGPT é acusado de ter facilitado e incentivado os utilizadores a realizar comportamentos prejudiciais, incluindo a automutilação e violência, enquanto garante que os mesmos são seguros.
Além disso, a queixa acusa a OpenAI de causar dependência, danos cognitivos e recolher dados de menores de idade sem o devido controlo parental. Neste contexto, Sam Altman é pessoalmente responsabilizado por uma “conduta imprudente e deliberada”, que se traduz num “total desrespeito pelo risco para a vida humana causado pela conduta das suas empresas”.
“O ChatGPT é uma ferramenta de uso geral utilizada por centenas de milhões de pessoas todos os dias para fins legítimos”, respondeu a OpenAI, em comunicado citado pela Associated Press. “Trabalhamos continuamente para reforçar as nossas medidas de segurança, de modo a detetar intenções maliciosas, limitar o uso indevido e responder de forma adequada quando surgem riscos de segurança.”
“Em concreto, incorporámos medidas de segurança para menores diretamente nos nossos produtos, incluindo uma experiência mais protegida, uma ferramenta de estimativa da idade, a atribuição automática da experiência mais protegida aos utilizadores cuja idade não possamos confirmar com segurança e a disponibilização de ferramentas aos pais para monitorizarem a utilização da IA pelos seus filhos”, continua a OpenAI. “Sabemos que destacar este trabalho não trará uma criança de volta, mas estamos empenhados em fazer isto da forma correta.”