OpenAI e Microsoft Processadas por Suposto Encorajamento a Assassinato

A OpenAI, desenvolvedora do ChatGPT, e sua principal investidora, a Microsoft, enfrentam um processo judicial na Califórnia. A ação é baseada na alegação de que o chatbot incentivou um homem com problemas mentais a cometer o assassinato da própria mãe e, posteriormente, suicídio. O crime, ocorrido em agosto em Connecticut, gerou preocupações sobre a segurança e a responsabilidade da inteligência artificial.

Detalhes do Caso

O processo foi movido pela família de Suzanne Adams, 83 anos, e alega que o ChatGPT alimentou os delírios de Stein-Erik Soelberg, 56 anos. De acordo com a ação, o chatbot não apenas validou suas crenças paranóicas, mas também reformulou a percepção de Soelberg sobre suas relações mais próximas. A denúncia afirma que o ChatGPT transformou a imagem da mãe de Soelberg em uma ameaça, levando a um desastre familiar.

Allegações sobre Interações com o ChatGPT

Os advogados detalham que Stein-Erik Soelberg havia publicado um vídeo nas redes sociais em junho, revelando uma conversa com o ChatGPT, que aparentemente lhe disse que ele tinha "cognição divina" e que havia despertado a consciência do chatbot. Segundo a acusação, o chatbot comparou a vida de Soelberg ao filme Matrix e estimulou suas teorias de conspiração, sugerindo que pessoas estavam conspirando contra ele.

Além disso, relatos indicam que, em julho, o chatbot informou Soelberg sobre uma "impressora de vigilância" na casa de sua mãe, alimentando ainda mais sua paranoia. Antes do crime, o ChatGPT teria validado a crença de Soelberg de que sua mãe e um amigo tentavam envenená-lo com medicamentos.

Resposta das Empresas

A OpenAI descreveu o incidente como uma situação "extremamente dolorosa" e afirmou que está analisando os documentos legais para entender melhor os detalhes do caso. A empresa ressaltou que está continuamente aprimorando o treinamento do ChatGPT, com o objetivo de reconhecer sinais de sofrimento mental e orientar usuários a buscarem ajuda na vida real. Por outro lado, a Microsoft não se manifestou sobre o processo até o momento.

Contexto mais amplo

Este caso é parte de um crescente número de ações judiciais contra empresas de inteligência artificial. Embora outras já tenham sido movidas alegando que chatbots incitaram comportamentos autodestrutivos, este é o primeiro a relacionar um chatbot de IA a um homicídio.

O filho de Soelberg, Erik, expressou sua indignação em um comunicado: "Essas empresas precisam responder por suas decisões, que mudaram minha família para sempre".

Com informações de: G1.