A investigação conduzida pela pesquisadora de direitos da criança e tecnologia da ONG, Hye Jung Han, revelou a presença de 170 fotos de crianças de diversos estados brasileiros, incluindo imagens de bebês, crianças pequenas e adolescentes em momentos variados de suas vidas. Uma das descobertas mais alarmantes foi a identificação de uma foto que mostrava uma menina de dois anos com sua irmã recém-nascida, com detalhes sobre o nome das crianças, a localização do hospital e a data de nascimento da bebê.
Han ressaltou que muitos jovens no Brasil foram alvo de assédio sexual após terem suas fotos modificadas na deepfake por colegas de escola, o que motivou a investigação sobre o uso indevido de imagens de crianças em plataformas de IA. A pesquisadora enfatizou a falta de proteção da privacidade de dados das crianças sob a legislação brasileira, defendendo a necessidade de uma legislação específica para proteger as imagens de serem usadas de forma indevida.
A Human Rights Watch recomendou que o governo proíba a raspagem de dados pessoais de crianças para sistemas de IA, bem como a replicação digital não consensual ou a manipulação de imagens de menores de 18 anos. Além disso, a ONG destacou a importância de fornecer mecanismos para que crianças que sofrem danos possam buscar justiça e reparação adequada. A organização também cobrou o cumprimento de uma resolução do Conanda que orienta a proteção dos direitos das crianças e dos adolescentes no ambiente digital.
A preocupação com o uso inadequado de imagens de crianças em ferramentas de IA levanta questões éticas e jurídicas que devem ser cuidadosamente consideradas e endereçadas pelas autoridades competentes. A proteção da privacidade e dos direitos das crianças no ambiente digital é um tema urgente e relevante que merece atenção e ação imediata por parte das instâncias responsáveis.
