X Implementa Medidas para Combater a Geração de Imagens Íntimas Falsas

A plataforma X, de Elon Musk, adotou novas diretrizes para barrar a criação de imagens íntimas falsas por meio de seu chatbot de inteligência artificial, Grok. A decisão foi anunciada após críticas globais relacionadas à geração de conteúdo sexualizado de mulheres e crianças.

Polêmica em Torno do Grok

Nos últimos dias, o Grok foi alvo de controvérsias ao produzir, a pedido de usuários, imagens sexualizadas de mulheres e menores de idade. Em resposta, a equipe de segurança da plataforma afirmou que está implementando "medidas tecnológicas" para proibir a edição de fotos de pessoas reais com roupas reveladoras, como biquínis.

Declarações de Elon Musk

Em pronunciamento, Elon Musk destacou que não tinha conhecimento da geração de imagens impróprias pela ferramenta. "Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas mediante solicitações dos usuários", enfatizou. Ele também mencionou que a plataforma possui mecanismos para se recusar a criar conteúdos ilícitos, conforme as regulamentações de cada país.

No entanto, Musk alertou que o Grok poderia ser vulnerável a ataques: “Pode haver ocasiões em que hackings ao prompt do Grok façam algo inesperado. Se isso acontecer, corrigimos a falha imediatamente.”

Investigação e Reações Nacionais

A plataforma X enfrenta uma investigação por parte do órgão regulador de mídia do Reino Unido, que reage a preocupações sobre o conteúdo sexualizado gerado pela ferramenta. Na Índia, exigências por proteções adicionais foram apresentadas, enquanto a Indonésia e a Malásia proibiram o uso do Grok. No Brasil, o Instituto de Defesa do Consumidor (Idec) pediu ao governo federal a suspensão do serviço.

Mobilização Global

A controvérsia gerou uma mobilização significativa entre grupos feministas e organizações de defesa dos direitos humanos. Uma coalizão de entidades, incluindo UltraViolet e a Organização Nacional para as Mulheres (NOW), está pressionando o Google e a Apple a removerem o X e o Grok de suas lojas de aplicativos. Jenna Sherman, diretora de campanha da UltraViolet, afirmou: “Estamos implorando veementemente à Apple e ao Google que levem isso extremamente a sério”.

Apesar das críticas, a xAI, empresa de IA responsável pelo Grok, desqualificou as alegações, referindo-se a elas como "mentiras da mídia tradicional". A Google e a Apple ainda não comentaram sobre a situação.

Conclusão

A nova política do Grok visa proteger indivíduos de abusos sexuais e garantir maior segurança na utilização da inteligência artificial. As controvérsias envolvem questões éticas e legais, tornando essencial o acompanhamento das medidas adotadas.

Com informações de: G1