Enquanto isso, em Dublin, Andrew Kaung, que trabalhava como analista de segurança do usuário no TikTok, decidiu investigar o que os algoritmos do aplicativo estavam recomendando aos usuários, incluindo jovens de 16 anos como Cai. Ele ficou chocado ao descobrir a quantidade de conteúdo violento, prejudicial e misógino sendo sugerido, especialmente para os adolescentes do sexo masculino.
Kaung levantou preocupações sobre a eficácia das ferramentas de inteligência artificial utilizadas pelas redes sociais para moderar o conteúdo. Ele explicou que muitos vídeos prejudiciais só eram removidos ou analisados se atingissem um grande número de visualizações, o que poderia expor os usuários mais jovens a conteúdos nocivos.
No entanto, as empresas afirmam que estão investindo em segurança e em métodos para proteger os usuários mais jovens. O TikTok garante que 99% do conteúdo violador de regras é retirado antes de atingir 10 mil visualizações, enquanto a Meta (dona do Facebook e Instagram) afirma possuir mais de 50 ferramentas para oferecer experiências positivas aos adolescentes.
Cai, agora com 18 anos, continua a receber recomendações de conteúdo perturbador. Ele relata que tentou usar ferramentas para indicar suas preferências, mas sem sucesso. Para ele, as empresas de redes sociais precisam ouvir mais os usuários e tornar as ferramentas de preferências mais eficazes.
A regulamentação do conteúdo digital também está em pauta, com novas leis sendo discutidas para proteger crianças e adolescentes online. No Reino Unido, uma nova lei forçará as plataformas a verificar a idade dos usuários e a impedir recomendações de conteúdo prejudicial. No Brasil, projetos de lei semelhantes buscam garantir a segurança dos jovens na internet.
O debate sobre a moderação de conteúdo nas redes sociais continua e a proteção dos usuários mais jovens é uma preocupação crescente. É essencial que as empresas adotem medidas mais eficazes para garantir um ambiente online seguro e saudável para todos os usuários.