Algoritmos das Redes Sociais Permitem Conteúdos Nocivos em Busca de Engajamento
Uma investigação da BBC revelou que gigantes das redes sociais, como Meta e TikTok, têm permitido a disseminação de conteúdos nocivos em seus feeds, mesmo após descobertas internas sobre os impactos negativos dessa prática. Denunciantes e atuais funcionários revelaram que, na corrida por seguidores e engajamento, as empresas optaram por minimizar riscos relacionados à segurança dos usuários.
Corrida por Engajamento e Conteúdo Limítrofe
Denunciantes da Meta revelaram que a empresa orientou seus engenheiros a incluir conteúdos "limítrofes", ou seja, que não violam regras explícitas, mas são prejudiciais, incluindo misoginia e teorias conspiratórias. Um engenheiro relatou à BBC que a decisão foi motivada pela queda das ações da empresa, indicando uma priorização do desempenho financeiro sobre a segurança do usuário.
A Resposta do TikTok
Um funcionário do TikTok compartilhou dados internos que mostram como a empresa prioriza a revisão de denúncias relacionadas a figuras políticas em detrimento de casos envolvendo crianças e adolescentes. Segundo ele, a abordagem visa evitar regulamentações que possam impactar os negócios, revelando uma falta de atenção aos riscos que esses conteúdos trazem para os jovens usuários.
A Luta Interna por Segurança
Matt Motyl, pesquisador da Meta, afirmou que o Instagram Reels, lançado em resposta ao sucesso do TikTok em 2020, não possuía proteções adequadas. Pesquisas internas indicaram um aumento significativo em bullying, assédio e discurso de ódio nessa plataforma em comparação ao restante do Instagram. Aumentar o engajamento às custas da segurança dos usuários se tornou um dilema constante.
Preocupações com a Segurança dos Usuários
Funcionários de segurança têm indicado que a quantidade de casos envolvendo violência e comportamento predatório está aumentando, particularmente entre adolescentes. Um denunciador, referenciado como Nick, relatou que, mesmo ao levantarem preocupações internas, a diretriz continuava priorizando relações políticas em vez da proteção da comunidade. Ele alerta os pais a manterem os filhos longe do TikTok.
Respostas das Empresas
Diante das alegações, a Meta negou qualquer intenção de promover conteúdos nocivos, enquanto o TikTok caracterizou as denúncias como "alegativas fabricadas". Ambas as empresas destacaram esforços em tecnologia de moderação e segurança para a proteção dos usuários, incluindo configurações automáticas de segurança para contas de adolescentes.
A Disputa Entre Plataformas
Desde o surgimento do TikTok, as redes sociais enfrentam uma crescente pressão para manter a atenção dos usuários. Motyl comentou sobre as tensões internas, onde equipes de segurança lutam por recursos e a aprovação de novas ferramentas de proteção, muitas vezes em desvantagem emocionalmente e estruturalmente, enquanto o foco permanece em maximizar o engajamento.
Reflexões sobre o Futuro
Com a crescente normalização de conteúdos problemáticos e opiniões polarizadoras nas plataformas, especialistas apontam para uma necessidade urgente de reavaliação das estratégias de moderação e engajamento das redes sociais. Um ex-engenheiro ressaltou que as prioridades parecem ter mudado para focar em resultados de curto prazo, sem considerar as consequências a longo prazo para a sociedade.
Com informações de: BBC