X Impõe Restrições a Edição de Imagens Após Casos de Manipulação

A plataforma X, sob a liderança de Elon Musk, anunciou mudanças significativas em sua ferramenta de inteligência artificial, Grok, após ser inundada por casos de manipulação de imagens íntimas. Agora, a edição de fotos gerada pela IA será limitada a assinantes pagantes, em resposta a preocupações sobre a criação e compartilhamento de imagens íntimas falsas.

Crescente Preocupação com Conteúdo Manipulado

O aumento de imagens manipuladas de mulheres e, preocupantemente, de crianças, trouxe à tona um debate sobre a segurança e a regulamentação das redes sociais. Usuários da plataforma começaram a relatar interações com o Grok pedindo alterações em fotos públicas, frequentemente solicitando transformações que sexualizavam as imagens.

A inteligência artificial agora responde a essas solicitações informando que "a geração e edição de imagens atualmente são limitadas a assinantes pagantes".

Denúncias de Vítimas

Recentemente, uma brasileira, conhecida apenas como Giovanna, teve sua imagem de biquíni alterada sem consentimento, gerando desconforto e indignação. "Eu me senti suja", relatou a vítima ao G1, ao descobrir que sua foto tinha sido modificada. Este caso se seguiu à denúncia de Julie Yukari, uma jornalista que também foi vítima da mesma ferramenta poucos dias antes.

As interações reportadas revelam um padrão preocupante, com contas no X solicitando retratos sexualizados de mulheres e menores de idade, muitas vezes sem qualquer autorização.

Investigações e Consequências Legais

As práticas de manipulação de imagens sem consentimento levantaram alerta internacional. Reguladores de países como Reino Unido, França, e Índia estão se mobilizando para investigar a plataforma. A Comissão Europeia também exigiu que a X retenha documentos e dados relacionados ao seu chatbot de IA até 2026.

De acordo com a advogada especialista em direito digital, Patrícia Peck, a criação e o compartilhamento de imagens íntimas falsas sem autorização é considerado crime sob a lei brasileira. As vítimas têm o direito de exigir a remoção imediata do conteúdo e podem registrar um boletim de ocorrência.

O Que Fazer se Você For Vítima

Se você se encontrar em uma situação semelhante, os especialistas recomendam seguir passos específicos:

• Preserve as provas: Capture screenshots do perfil do responsável e da imagem manipulada.
• Registre a autenticidade: Utilize serviços de prova digital com validade jurídica.
• Denuncie o conteúdo: Use os mecanismos disponíveis na plataforma para informar sobre a violação.
• Registre um boletim de ocorrência: Entre em contato com as autoridades, munido das provas coletadas.

A X reafirmou seu comprometimento em combater conteúdos ilegais e que qualquer usuário que utilizar o Grok para criar ou solicitar conteúdos ilegais enfrentará as mesmas consequências que quem publica tal material.

Com informações de: G1