Família processa OpenAI após homem matar mãe influenciado por chatbot (ilustrativa/banco de imagens)
A OpenAI e sua maior apoiadora financeira, a Microsoft, foram processadas em um tribunal estadual da Califórnia, nos EUA, na quinta-feira (11) por alegações de que seu popular chatbot ChatGPT encorajou um homem com doença mental a matar sua mãe e a si mesmo.
O processo afirma que o ChatGPT alimentou os delírios de um homem, Stein-Erik Soelberg, de 56 anos, sobre uma vasta conspiração contra ele e, eventualmente, o levou a assassinar sua mãe, Suzanne Adams, de 83, em Connecticut, em agosto.
“O ChatGPT manteve Stein-Erik engajado por, o que parece ser, horas a fio, validou e amplificou cada nova crença paranoica e, sistematicamente, reformulou as pessoas mais próximas a ele – especialmente sua própria mãe – como adversários, agentes ou ameaças programadas”, afirma o processo.
Artigos relacionados
Alegações e respostas das empresas
O caso, apresentado pela família de Adams, está entre um pequeno, mas crescente, número de processos movidos contra empresas de inteligência artificial que alegam que seus chatbots encorajaram o suicídio. É o primeiro a ligar um chatbot de IA a um assassinato.
“Esta é uma situação incrivelmente dolorosa, e revisaremos os documentos para entender os detalhes”, disse um porta-voz da OpenAI.
“Continuamos a aprimorar o treinamento do ChatGPT para reconhecer e responder a sinais de sofrimento mental ou emocional, desescalar conversas e guiar as pessoas para apoio no mundo real”. Porta-vozes da Microsoft não responderam imediatamente a um pedido de comentário.
“Essas empresas têm que responder por suas decisões que mudaram minha família para sempre”, disse o filho de Soelberg, Erik Soelberg, em um comunicado.
Conteúdo específico das interações
De acordo com a denúncia, Stein-Erik Soelberg postou um vídeo nas redes sociais em junho de uma conversa na qual o ChatGPT lhe disse que ele tinha “cognição divina” e havia despertado a consciência do chatbot.
O processo afirmou que o ChatGPT comparou a vida dele ao filme “Matrix” e encorajou suas teorias de que pessoas estavam tentando matá-lo.
Soelberg usou o GPT-4o, uma versão do ChatGPT que tem sido criticada por supostamente ser bajuladora com os usuários. A denúncia afirma que o ChatGPT disse a ele em julho que a impressora de Adams estava piscando porque era um dispositivo de vigilância sendo usado contra ele.
De acordo com a denúncia, o chatbot “validou a crença de Stein-Erik de que sua mãe e um amigo tentaram envenená-lo com drogas psicodélicas dispersas pelas saídas de ar de seu carro” antes que ele assassinasse sua mãe no dia 3 de agosto.
Fonte: CNA
