“Eu nunca mencionei armas ou violência. Falei apenas sobre uma mulher negra em uma favela. E vejo uma imagem de uma mulher negra com uma arma na mão. Isso prova que o racismo algorítmico está presente. Essa lógica de criminalização das pessoas negras das favelas e periferias também está nos algoritmos. Como presidenta da CPI do Reconhecimento Fotográfico, já vi o quanto a inteligência artificial e o reconhecimento facial utilizam algoritmos racistas, que caracterizam pessoas negras, pobres e jovens como possíveis criminosos”, afirmou a deputada.
Renata Souza disse que está analisando medidas cabíveis para encaminhar a denúncia e pretende buscar um canal de diálogo com a direção da empresa responsável pelo aplicativo gerador dessas imagens. Ela pretende discutir formas de combater o racismo algorítmico e exigir que as plataformas de inteligência artificial sejam mais inclusivas e representativas.
Vale lembrar que, desde o dia 19 de outubro, uma lei estadual proíbe o uso do reconhecimento fotográfico como única prova em pedidos de prisão de investigados no estado do Rio de Janeiro. Essa medida busca evitar injustiças e discriminações baseadas em preconceitos raciais.
A denúncia feita pela deputada Renata Souza reforça a importância de discutir e combater o racismo nos sistemas de inteligência artificial. A utilização dessas tecnologias precisa ser pautada pela ética e pela inclusão, garantindo que não haja discriminação racial ou qualquer tipo de viés discriminatório. É fundamental que as empresas responsáveis por essas plataformas sejam sensíveis a essas questões e trabalhem para corrigir os algoritmos e garantir que as imagens geradas sejam representativas e respeitosas. A sociedade como um todo deve se mobilizar para garantir a equidade na tecnologia e combater o racismo algorítmico.
