De acordo com um estudo realizado pelas pesquisadoras Letícia Oliveira e Tatiana Azevedo, durante duas semanas elas observaram a disseminação de conteúdos neonazistas no TikTok. Para isso, criaram um perfil na plataforma e começaram a seguir e curtir vídeos de perfis com esse tipo de conteúdo. Rapidamente, o algoritmo da rede social passou a fazer recomendações de vídeos e contas relacionadas a essa temática, garantindo a exposição do perfil às mensagens de ódio.
Procurado pela Folha, o TikTok afirmou que trabalha constantemente para garantir a segurança de todos os usuários e que suas diretrizes deixam claro o que não pode ser publicado, como a propagação de violência e ódio. Porém, as pesquisadoras alertam para o risco que esses conteúdos representam, especialmente para jovens com transtornos mentais ou em sofrimento. Um exemplo é o recente ataque em uma escola na zona leste de São Paulo, onde um aluno de 16 anos entrou armado e matou uma adolescente.
O relatório das pesquisadoras também destaca que os usuários têm se distanciado de símbolos mais conhecidos, como a suástica, optando por códigos nos nicknames e símbolos na foto do perfil. Um exemplo é o símbolo do Sol Negro, que consiste em uma roda solar com uma suástica e uma letra do alfabeto usado pelas antigas tribos germânicas. Além disso, diversos nicknames combinam os números 14 e 88, que são referências a slogans e expressões neonazistas.
O TikTok conta com ferramentas de moderação, como o “shadowban” e a exclusão de hashtags que propagam conteúdo inadequado. Porém, os usuários têm adotado termos similares para driblar essas medidas, além de publicarem imagens ou vídeos sem hashtags. Essas estratégias dificultam tanto a moderação como as denúncias de conteúdo inadequado.
A ONG Safernet aponta que, após dois anos de recordes consecutivos, as denúncias de conteúdos de neonazismo tiveram uma queda significativa. Isso se deve ao fato de os grupos responsáveis pela disseminação desses conteúdos terem mudado suas estratégias e migrado para plataformas com moderação mais frouxa, como o Discord. No entanto, a disseminação de conteúdos criminosos e de incitação à violência em plataformas de grande visibilidade reforça a necessidade de regulamentação por parte das autoridades.
Luka Franca, pesquisadora do grupo Violência em Tempos Sombrios, do NEV (Núcleo de Estudos da Violência) da USP, ressalta a importância de uma legislação que obrigue as plataformas a divulgar como funcionam seus algoritmos. Isso permitiria uma fiscalização mais efetiva por parte das autoridades de segurança e um controle parental mais adequado sobre o conteúdo acessado por crianças e adolescentes.
O TikTok afirmou em nota que a maioria das remoções de conteúdo acontece antes mesmo de denúncias, através do uso de tecnologia e da equipe de moderação. A empresa também garantiu que a maioria dos vídeos que infringem os termos de uso são excluídos antes de qualquer visualização.
O fenômeno da disseminação de conteúdos nazistas e de ódio no TikTok é uma questão séria que requer atenção e ação por parte das autoridades, das plataformas e dos usuários. É preciso garantir a segurança e a proteção dos jovens e combater a propagação de mensagens de ódio e violência.
