A ação do X em bloquear pesquisas por termos relacionados a Taylor Swift, como “Taylor IA”, resultou em mensagens de erro por várias horas. Joe Benarroch, chefe de operações comerciais do X, alegou que a medida foi temporária e tomada com cautela, priorizando a segurança da questão. De acordo com a empresa, a ação foi uma forma de evitar acesso facilitado a conteúdo abusivo.
A atitude do X contrasta com a postura inicial de Musk, que reduziu recursos dedicados à moderação de conteúdo e flexibilizou políticas de moderação, citando ideais de liberdade de expressão. No entanto, diante da disseminação das deepfakes de Taylor Swift e de pressões crescentes para combater o abuso dessa tecnologia, a empresa se viu forçada a adotar medidas mais rígidas.
A disseminação de deepfakes tem preocupado especialistas, que alertam para o uso crescente dessas imagens em campanhas de desinformação política e no surgimento de imagens pornográficas falsas. A facilidade de acesso a ferramentas que permitem a criação de deepfakes tem aumentado a disseminação desse tipo de conteúdo, evidenciando a necessidade de ações mais enérgicas por parte das plataformas de mídia social.
A Casa Branca expressou preocupação com a circulação das deepfakes de Taylor Swift, ressaltando a responsabilidade das empresas de mídia social em aplicar suas próprias regras. Além disso, os executivos de plataformas como o X, Meta e TikTok serão questionados em uma audiência no Senado dos EUA sobre exploração sexual infantil online, demonstrando a pressão crescente sobre essas empresas para lidar de forma eficaz com conteúdos abusivos.
Apesar da declaração do X sobre a tolerância zero em relação a conteúdos de nudez não consensual, as imagens falsas de Taylor Swift foram visualizadas milhões de vezes antes de serem removidas. A origem dessas imagens parece estar relacionada a grupos anônimos, o que levanta questões sobre a necessidade de uma abordagem mais efetiva e proativa na moderação de conteúdo.
Diante desse episódio, fica evidente a necessidade de plataformas de mídia social como o X reavaliarem suas políticas e recursos dedicados à moderação de conteúdo, a fim de garantir a segurança e integridade dos usuários e dos conteúdos disponibilizados. A disseminação de deepfakes é uma ameaça crescente que requer ações urgentes e eficazes por parte das empresas envolvidas.
