TikTok e Meta negligenciam segurança em luta por atenção do usuário

Algoritmos das Redes Sociais Permitem Conteúdos Nocivos em Busca de Engajamento

Uma investigação da BBC revelou que gigantes das redes sociais, como Meta e TikTok, têm permitido a disseminação de conteúdos nocivos em seus feeds, mesmo após descobertas internas sobre os impactos negativos dessa prática. Denunciantes e atuais funcionários revelaram que, na corrida por seguidores e engajamento, as empresas optaram por minimizar riscos relacionados à segurança dos usuários.

Corrida por Engajamento e Conteúdo Limítrofe

Denunciantes da Meta revelaram que a empresa orientou seus engenheiros a incluir conteúdos "limítrofes", ou seja, que não violam regras explícitas, mas são prejudiciais, incluindo misoginia e teorias conspiratórias. Um engenheiro relatou à BBC que a decisão foi motivada pela queda das ações da empresa, indicando uma priorização do desempenho financeiro sobre a segurança do usuário.

A Resposta do TikTok

Um funcionário do TikTok compartilhou dados internos que mostram como a empresa prioriza a revisão de denúncias relacionadas a figuras políticas em detrimento de casos envolvendo crianças e adolescentes. Segundo ele, a abordagem visa evitar regulamentações que possam impactar os negócios, revelando uma falta de atenção aos riscos que esses conteúdos trazem para os jovens usuários.

A Luta Interna por Segurança

Matt Motyl, pesquisador da Meta, afirmou que o Instagram Reels, lançado em resposta ao sucesso do TikTok em 2020, não possuía proteções adequadas. Pesquisas internas indicaram um aumento significativo em bullying, assédio e discurso de ódio nessa plataforma em comparação ao restante do Instagram. Aumentar o engajamento às custas da segurança dos usuários se tornou um dilema constante.

Preocupações com a Segurança dos Usuários

Funcionários de segurança têm indicado que a quantidade de casos envolvendo violência e comportamento predatório está aumentando, particularmente entre adolescentes. Um denunciador, referenciado como Nick, relatou que, mesmo ao levantarem preocupações internas, a diretriz continuava priorizando relações políticas em vez da proteção da comunidade. Ele alerta os pais a manterem os filhos longe do TikTok.

Respostas das Empresas

Diante das alegações, a Meta negou qualquer intenção de promover conteúdos nocivos, enquanto o TikTok caracterizou as denúncias como "alegativas fabricadas". Ambas as empresas destacaram esforços em tecnologia de moderação e segurança para a proteção dos usuários, incluindo configurações automáticas de segurança para contas de adolescentes.

A Disputa Entre Plataformas

Desde o surgimento do TikTok, as redes sociais enfrentam uma crescente pressão para manter a atenção dos usuários. Motyl comentou sobre as tensões internas, onde equipes de segurança lutam por recursos e a aprovação de novas ferramentas de proteção, muitas vezes em desvantagem emocionalmente e estruturalmente, enquanto o foco permanece em maximizar o engajamento.

Reflexões sobre o Futuro

Com a crescente normalização de conteúdos problemáticos e opiniões polarizadoras nas plataformas, especialistas apontam para uma necessidade urgente de reavaliação das estratégias de moderação e engajamento das redes sociais. Um ex-engenheiro ressaltou que as prioridades parecem ter mudado para focar em resultados de curto prazo, sem considerar as consequências a longo prazo para a sociedade.

Com informações de: BBC