AGU Solicita Exclusão de Robôs de IA do Instagram com Conteúdo Sexual

A Advocacia-Geral da União (AGU) requisitou à Meta, empresa responsável pelo Instagram, a remoção imediata de robôs de inteligência artificial que, segundo o órgão, imitam perfis com estética e linguagem infantil, permitindo diálogos de conteúdo sexual com usuários. Essa notificação extrajudicial é um aviso prévio a uma possível ação judicial.

Robôs de IA em Foco

A solicitação da AGU foi motivada por uma reportagem do site Núcleo Jornalismo. O material revela que o modelo de IA da Meta foi utilizado por terceiros para criar robôs com nomes sugestivos, como "Safadinha", "Bebezinha" e "Minha novinha". Essas contas, que simulam perfis femininos, podem interagir com usuários no Instagram e são sugeridas pela plataforma.

Medidas de Proteção Requeridas

Na notificação, a AGU pediu à Meta que esclareça as medidas adotadas para assegurar a proteção de crianças e adolescentes. O foco está na prevenção do acesso a conteúdos sexualmente explícitos nas redes sociais da empresa. O órgão ressalta que esses assistentes virtuais têm um potencial amplo de alcance, aumentando o risco de exposição de menores a material sexualmente sugestivo e, potencialmente, criminoso.

Riscos à Integridade de Crianças e Adolescentes

O documento da AGU destaca que essa situação representa um risco significativo à integridade psíquica de crianças e adolescentes. Além disso, menciona que isso pode gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral, conforme previsto no artigo 227 da Constituição Federal.

Autorizações Questionáveis da Meta

A AGU também mencionou uma reportagem da Reuters, que indica que os diretrizes da Meta permitiram diálogos "sensuais" entre as inteligências artificiais e crianças. Após investigações, a Meta afirmou que removeu esse tipo de permissão. Ademais, o documento questionado também possibilitava que as assistentes de IA gerassem informações médicas incorretas e promovessem estereótipos raciais prejudiciais.

Contato com a Meta

Além do Instagram, a Meta é a controladora do Facebook e do WhatsApp. A equipe do g1 entrou em contato com a empresa e aguarda um posicionamento oficial sobre a solicitação da AGU.

Com informações de: Núcleo Jornalismo e Reuters.