Uso Indevido de Ferramenta de IA no X Gera Imagens Íntimas Falsas sem Consentimento

O uso da ferramenta de inteligência artificial Grok, integrada à rede social X, para a criação de imagens íntimas falsas de mulheres sem o seu consentimento se tornou uma preocupação crescente no Brasil. Especialistas e advogados alertam que essa prática é considerada crime, o que levanta questões sobre a responsabilidade das plataformas digitais nesse contexto.

Casos Alarmantes de Manipulação de Imagens

Desde o fim de setembro, a plataforma tem registrado um aumento significativo na disseminação de imagens manipuladas que retratam mulheres em situações de nudez ou vestindo roupas íntimas. O caso mais recente envolveu uma brasileira que teve fotos reais de sua conta de Instagram utilizadas para criar conteúdos degradantes, evidenciando o uso abusivo da tecnologia de deepfake.

A jornalista Julie Yukari também denunciou à polícia que teve imagens manipuladas pela mesma ferramenta em 2 de outubro, demonstrando a gravidade e a amplitude do problema.

Consequências Legais para Crimes de Imagem

A criação de imagens íntimas falsas sem consentimento é reconhecida como uma forma de violência digital e pode ser enquadrada em crimes previstos no Código Penal brasileiro. De acordo com Vinicius Padrão, advogado de direito digital, essa prática pode resultar em pena de detenção de seis meses a um ano, além de multa.

Patrícia Peck, outra especialista na área, reforça que, mesmo sem uma legislação específica sobre deepfakes, as leis atuais já trazem mecanismos para punir tais atos. Ela ressalta que tanto o criador quanto quem compartilha essas imagens são responsáveis legalmente.

A Velocidade e Acessibilidade da Tecnologia de IA

Nos dias 5 e 6 de outubro, a IA do X gerou cerca de 6.700 imagens por hora identificadas como sexualmente sugestivas. Esse dado é alarmante quando comparado a sites que cobram por esses serviços, que publicaram uma média de 79 novas imagens de nudez por hora. A facilidade de acesso à tecnologia e a velocidade de sua aplicação geram um ambiente propício para abusos.

Segundo Cleber Zanchettin, professor da Universidade Federal de Pernambuco, a qualidade das imagens geradas é cada vez mais surpreendente e realista, amplificando o risco de uso indevido.

Testemunho de Vítima e Medidas Tomadas

Uma das vítimas, identificada apenas como Giovanna, expressou sua indignação ao descobrir que uma foto sua tinha sido manipulada e disseminada na rede social. "Senti-me suja e horrorizada quando vi a imagem", afirmou ela, que pretende registrar um boletim de ocorrência.

Após o contato do g1 com a conta responsável pela manipulação, as imagens foram removidas. O X, por sua vez, declarou que qualquer uso da Grok para criar conteúdo ilegal acarretará as mesmas penalizações que a disseminação de conteúdo ilegal.

Comentários sobre a Responsabilidade das Redes Sociais

Para proteger os usuários, a xAI, responsável pelo Grok, afirma que proíbe expressamente o uso da IA para ações não autorizadas que envolvam a sexualização de indivíduos. No entanto, especialistas questionam a efetividade da política, dado o aumento dos casos de abuso.

A advogada Patrícia Peck lembra que o Marco Civil da Internet garante a remoção rápida de conteúdo não consensual, mas a aplicação efetiva dessa norma tem se mostrado desafiadora.

O Que Fazer se Você For Vítima

Caso alguém se torne alvo de manipulação indevida, é essencial:

1. Preservar as provas: Não excluir nada de imediato. Capturar imagens e links.
2. Registrar a autenticidade: Usar ferramentas que garantam validade jurídica.
3. Denunciar na plataforma: Utilizar os mecanismos disponíveis para reportar a violação.
4. Registrar um boletim de ocorrência: Buscar a Delegacia de Crimes Cibernéticos e reunir todas as evidências.

A situação atual exige uma reflexão sobre a responsabilidade das plataformas digitais na proteção de seus usuários e a necessidade de legislação mais efetiva para combater esses crimes.

Com informações de: g1