Novo Chatbot de Elon Musk Gera Imagens Sexualizadas e Causa Indignação Global
Um dos mais recentes lançamentos da xAI, empresa fundada por Elon Musk, está no centro de uma crescente controvérsia. O chatbot Grok, integrado à plataforma social X, teria gerado aproximadamente três milhões de imagens sexualizadas, incluindo representações de menores, em apenas 11 dias. A descoberta, feita por pesquisadores do Centro de Combate ao Ódio Digital, gerou indignação em diversos países e levantou questões sobre a responsabilidade das redes sociais na moderação de conteúdo.
Impacto da Ferramenta na Criação de Deepfakes
A funcionalidade do Grok permite que usuários editem fotos reais utilizando comandos simples, como "vista-a com um biquíni" ou "tire a roupa dela". Essa capacidade resultou na produção massiva de imagens falsas hiper-realistas, conhecidas como deepfakes, que rapidamente se espalharam pela internet. "Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual", afirmou Imran Ahmed, diretor-executivo do Centro de Combate ao Ódio Digital.
A Repercussão entre as Vítimas
As consequências emocionais para as vítimas de conteúdo criado pelo Grok têm sido devastadoras. Uma mulher brasileira, cuja imagem foi manipulada, compartilhou: "Sentimento horrível. Me sinto suja." O crescente número de reportagens sobre essas experiências pessoais destaca a urgência do problema e a necessidade de ações eficazes.
Medidas de Combate e Proibições Internacionais
Diante da situação alarmante, vários países começaram a tomar medidas para proibir o uso do Grok. Filipinas, Malásia e Indonésia já baniram a ferramenta, enquanto autoridades no Reino Unido e França estão pressionando a xAI para garantir a segurança dos usuários. O procurador-geral da Califórnia também iniciou uma investigação sobre o conteúdo sexualmente explícito gerado pela ferramenta.
Resposta da xAI e Futuras Diretrizes
Até o momento, não houve um pronunciamento formal do X sobre as descobertas. Contatada pela AFP, a empresa respondeu de forma automatizada, afirmando: "Mentiras da mídia tradicional". Recentemente, a plataforma anunciou que tomará medidas para bloquear a criação de imagens sexualizadas em jurisdições onde essa ação seja considerada ilegal, um passo em direção a maior responsabilidade na gestão de conteúdo.
Com informações de: [G1]