Adolescentes processam xAI por geração de imagens íntimas falsas
Ação coletiva nos EUA contra Elon Musk
Três adolescentes entraram com uma ação coletiva em um tribunal federal de San José, nos Estados Unidos, contra a xAI, a empresa de inteligência artificial (IA) de Elon Musk. As jovens alegam que o chatbot Grok gerou imagens pornográficas a partir de fotos reais delas, o que gerou uma série de consequências negativas.
Proliferação de deepfakes
O processo surge em meio a um crescente número de casos de deepfakes envolvendo mulheres e crianças, cuja disseminação, especialmente no final do ano passado, chocou a opinião pública e resultou em investigações em diversos países, incluindo os Estados Unidos. As advogadas destacam que as imagens foram criadas utilizando fotos comuns das jovens, que estavam disponíveis em redes sociais e outras fontes, e que as montagens circulavam em plataformas como X, Discord e Telegram, antes de migrar para a dark web.
Impacto emocional nas vítimas
As repercussões nas vítimas foram severas. Uma das mães, moradora do Tennessee, relatou a aflição ao ver sua filha passar por um ataque de pânico ao descobrir as imagens. "Foi horrível", disse ela. Outra autora da ação frequentemente sofre de pesadelos, enquanto uma terceira se tornou dependente de medicamentos para dormir, além de temer participar de sua própria cerimônia de formatura.
Críticas à xAI
As advogadas da ação afirmam que a xAI projetou o Grok intencionalmente para gerar conteúdo sexualmente explícito, visando lucro, e sem as devidas medidas de proteção que outras grandes empresas de IA implementaram para evitar a geração de pornografia infantil. Um estudo do Center for Countering Digital Hate revelou que o Grok produziu cerca de 3 milhões de imagens sexualizadas em somente 11 dias no final de 2025, das quais 23.000 representavam menores de idade.
Mudanças nas diretrizes da xAI
Em resposta ao escândalo, a xAI anunciou, em janeiro, que restringiria o acesso à geração de imagens pelo Grok apenas a assinantes. O caso levanta questões importantes sobre a responsabilidade de empresas de tecnologia em relação à segurança e ao bem-estar de seus usuários, especialmente menores de idade.
Com informações de: G1.