No período entre 2019 e 2022, o estudo registrou 509 casos de prisões utilizando essa tecnologia. No entanto, Nunes ressalta que “o número de prisões com essa tecnologia é muito maior do que conseguimos monitorar”.
Os dados coletados em 2019 pelo grupo revelam que mais de 90% das 184 prisões identificadas naquele ano foram de pessoas negras. Nunes ressalta que “vimos um aprofundamento do perfil dos presos pelo reconhecimento facial, com foco em jovens negros presos por crimes sem violência, principalmente relacionados à Lei de Drogas, o que tem contribuído para aumentar a população carcerária”.
A distribuição dos projetos de reconhecimento facial pelo país não segue uma lógica baseada em estatísticas de criminalidade ou de concentração populacional. Segundo o levantamento, Goiás é o estado com maior número de projetos, contando com 45 iniciativas, seguido pelo Amazonas, com 21 projetos, Paraná (14) e São Paulo (12).
Em São Paulo, especificamente, em agosto, foi assinado um contrato para o projeto Smart Sampa, que prevê a instalação de 20 mil câmeras de segurança com reconhecimento facial até o final de 2024. O sistema terá um custo mensal de R$ 9,8 milhões para os cofres públicos.
No entanto, o relatório intitulado “Mais Câmeras, Mais Segurança?”, produzido pelo Instituto Igarapé em 2020, destaca os riscos de identificações erradas ao utilizar câmeras associadas à inteligência artificial. O estudo analisou experiências nas cidades de Salvador (BA), Campinas (SP) e Rio de Janeiro, e aponta que há possibilidade de erros caso a programação não seja feita com uma diversidade de rostos.
Outra pesquisa, realizada em 2018 pelas pesquisadoras Joy Buolamwini, do Instituto de Tecnologia do Massachusetts (MIT), e Timnit Gebru, na época na Microsoft, revelou que as tecnologias de reconhecimento facial apresentavam um índice de erro de 34,7% ao tentar identificar mulheres de pele escura, enquanto para homens de pele clara esse índice era de 0,8%.
Segundo o coordenador do centro de estudos, a forma como essa tecnologia está sendo implementada no Brasil demonstra os riscos de discriminação racial sistêmica contra as populações menos favorecidas socialmente, especialmente as pessoas negras. “Entender a adoção desses algoritmos de reconhecimento facial na segurança pública no Brasil ilumina bastante os perigos e as possíveis violações que essas tecnologias podem trazer quando utilizadas no sistema penal”, enfatiza.
Além disso, o centro de estudos aponta uma inversão de prioridades no uso dos recursos públicos, já que, ao direcionar dinheiro para a implementação de câmeras de reconhecimento facial, são prejudicadas outras áreas, afetando a qualidade de vida das populações menos favorecidas. “Esse dinheiro, que poderia ser usado para saneamento básico em cidades que ainda não possuem, está sendo empregado em uma tecnologia cara, enviesada e racista”, analisa Nunes.
Para o pesquisador da Fundação Mozilla, Tarcízio Silva, o uso de dados biométricos para criminalizar a população negra e a alocação de recursos que poderiam melhorar as condições de vida dessas populações em projetos de reconhecimento facial são exemplos de um fenômeno chamado racismo algorítmico.
Silva destaca ainda que o enviesamento racista da tecnologia pode resultar na disseminação de desinformação através de conteúdos gerados automaticamente por inteligência artificial, perpetuando representações negativas e políticas errôneas sobre o mundo.
Diante desse cenário, é necessário refletir sobre os potenciais riscos e impactos sociais da utilização do reconhecimento facial na segurança pública, visando garantir a equidade, a proteção dos direitos humanos e a justiça nas investigações e prisões, evitando discriminações e violações.
