Califórnia Aprova Leis para Proteger Crianças nas Redes Sociais e na IA

O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um pacote de 13 leis que visa fortalecer a proteção online de crianças e adolescentes. As medidas, que incluem requisitos para assistentes de inteligência artificial e redes sociais, reconhecem a necessidade urgente de salvaguardas em um ambiente digital cada vez mais presente na vida dos jovens.

Regras para Assistentes de Inteligência Artificial

Uma das leis mais significativas exige que plataformas de IA, como ChatGPT e Gemini, implementem protocolos de crise quando usuários demonstrem sinais de suicídio. Essa ação busca aumentar a responsabilidade sobre as informações e interações oferecidas por esses serviços.

Além dessa exigência, as plataformas também deverão disponibilizar controles parentais. Pais serão notificados automaticamente caso seus filhos desativem funções de segurança, garantindo maior supervisão sobre a utilização dessas tecnologias.

Proteção Contra Recursos Viciantes

Outra lei aprovada estabelece que redes sociais, como Instagram e TikTok, não poderão oferecer conteúdos que incentivem o vício entre usuários com menos de 16 anos. A medida proíbe, por exemplo, a reprodução automática de vídeos e a sugestão de postagens baseadas no histórico de navegação desses jovens.

Essas regras visam mitigar os efeitos nocivos que o uso excessivo dessas plataformas pode ter sobre a saúde mental e o bem-estar das crianças.

Combate à Exploração Sexual Infantil

Uma terceira lei expande a definição do crime de exploração sexual infantil, incluindo a proibição de veiculação de conteúdos digitalmente alterados ou gerados por IA que representem menores em situações de natureza sexual. Essa medida é uma resposta à crescente preocupação com o uso indevido de tecnologias emergentes.

Contexto e Implicações

A Califórnia se junta a outros estados americanos, como Utah e Flórida, que também têm buscado regulamentar o uso da internet entre menores. No entanto, algumas dessas leis enfrentam desafios judiciais, com plataformas alegando que as novas regras violam o direito à liberdade de expressão.

Essas iniciativas refletem uma consciência crescente sobre a necessidade de protegê-los em um ambiente digital repleto de riscos, especialmente em um momento em que a tecnologia continua a evoluir rapidamente.

Com informações de: AP News.