A pesquisa identificou 170 fotos de crianças de pelo menos 10 estados diferentes, capturando momentos como nascimentos, festas de aniversário e apresentações escolares. Essas fotos foram encontradas em um banco de dados conhecido como LAION-5B, utilizado para treinar ferramentas de IA. Apesar de representarem apenas uma pequena porcentagem do extenso acervo do banco, que contém mais de 5 bilhões de imagens, o episódio serve como um alerta para os perigos relacionados à privacidade e segurança desses dados.
De acordo com a Human Rights Watch, muitas dessas fotos foram postadas por crianças e adolescentes, bem como por seus familiares, em blogs pessoais e em plataformas de compartilhamento de imagens. Algumas dessas imagens foram disponibilizadas na internet há anos, sendo utilizadas como base para a criação de conteúdo deepfake, capaz de modificar digitalmente vídeos e fotos de forma realista e enganosa.
A pesquisadora Hye Jung Han, especialista em Direitos da Criança e Tecnologia da Human Rights Watch, destaca que a inteligência artificial facilita a criação desses deepfakes, ampliando os riscos de uso indevido e nocivo dessas imagens. A preocupação se estende para a falta de proteção da privacidade dos usuários por parte de grandes empresas e redes sociais, que permitiram o acesso a essas fotos pelo sistema de IA.
Diante desse cenário, a instituição alemã responsável pelo LAION-5B se comprometeu a remover as fotos pessoais das crianças encontradas pela Human Rights Watch. No entanto, enfatiza a importância da responsabilidade dos próprios indivíduos e de seus responsáveis legais em proteger suas informações na internet. A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, ressalta a necessidade de aplicação da legislação para garantir a proteção dos usuários, especialmente das crianças e adolescentes, em ambiente virtual.
Assim, a exposição involuntária e inadequada dessas fotos pessoais evidencia a urgência de medidas eficazes para controlar e prevenir o uso indevido de dados por meio da inteligência artificial. A violação da privacidade e segurança dos usuários, principalmente dos mais vulneráveis, evidencia a necessidade de uma regulamentação mais rigorosa e de ações de proteção por parte das empresas e órgãos responsáveis.
