Grok: Ferramenta de IA da Rede Social X Gera Imagens Íntimas Falsas

A rede social X enfrenta críticas após a Agência Nacional de Proteção de Dados (ANPD) revelar que sua ferramenta de inteligência artificial, Grok, continua a gerar imagens sexualizadas sem consentimento. A situação levanta questões sobre a eficácia das medidas de contenção implementadas pela plataforma.

Testes Indicam Falhas Persistentes

Em uma recente avaliação, a ANPD, juntamente com o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon), concluiu que a Grok ainda permite a criação de imagens sexualizadas de crianças, adolescentes e adultos sem autorização. Porém, o X solicitou que o prazo de cinco dias dado para corrigir essas falhas apenas comece a contar após receber esclarecimentos sobre os testes realizados.

O Pedido da Rede Social

A resposta do X à ANPD, enviada no dia 12 de outubro, questionou a metodologia dos testes que identificaram as falhas. A empresa argumentou que a nota técnica utilizada para embasar as iniciativas não especificou qual versão da Grok foi usada nos testes, quais comandos foram aplicados e quais resultados foram observados. Além disso, o X negou qualquer relação com o site grokimagine.ai, mencionado nos relatórios iniciais, afirmando que o domínio não pertence à sua plataforma.

Consequências e Pressão de Órgãos Reguladores

A ANPD, MPF e Senacon alertaram que a não conformidade com as determinações pode resultar em sanções, incluindo multas e ações judiciais. A pressão por parte dos órgãos reguladores ganhou força após um aumento significativo de denúncias relacionadas ao uso da Grok para modificar imagens de mulheres de maneira não consentida. Vítimas expressaram descontentamento e angustia, como uma brasileira que reagiu ao perceber que sua imagem foi manipulada para aparecer de biquíni, descrevendo a experiência como um "sentimento horrível".

Controvérsias na Comunicação

Além de contestar a eficácia dos testes, a resposta do X indicou que se confirmasse que as imagens analisadas foram geradas fora de seus domínios oficiais, as medidas preventivas deveriam ser suspensas. A companhia ressaltou que a Grok opera apenas em grok.com e dentro da própria rede social X.

Conclusões de Testes Externos

Uma verificação adicional demonstrou que o domínio mencionado na resposta da empresa levava a uma plataforma de terceiros que utiliza ferramentas semelhantes a da Grok. Testes realizados pela Reuters com comandos para criar imagens sexualizadas resultaram em mensagens de violação de políticas de segurança, mas ao utilizar outra ferramenta, foi possível obter as edições solicitadas.

A situação em torno do Grok continua a evoluir, com os reguladores pressionando a rede social a adotar medidas mais rigorosas. As próximas etapas da empresa serão cruciais para determinar a eficácia das correções propostas.

Com informações de: Reuters.