Nos últimos anos, muitos processos vêm sendo automatizados em busca de eficiência e escala. No entanto, existem desafios e até violências que precisam ser discutidos mais amplamente, como no caso de preconceitos e discriminação perpetuados por modelos matemáticos. Um exemplo disso é o relato de pesquisadores da Universidade de Chicago e do MIT, que descobriram como sistemas automáticos de análise de currículos tinham preferência por candidatos com nomes tipicamente atribuídos a pessoas brancas nos Estados Unidos, em detrimento daqueles com nomes mais associados a afro-americanos. Essas questões éticas também são abordadas por cientistas de dados, como Cathy O’Neil, em seu livro “Armas de Destruição Matemática”.
Além disso, é importante lembrar que o racismo, capacitismo, homofobia e outras formas de preconceito não nasceram com a inteligência artificial, mas é igualmente importante compreender a escala que podem adquirir com esses sistemas. Segundo o pesquisador Tarcízio Silva, o racismo algorítmico é uma espécie de atualização do racismo estrutural, com uma importância ainda maior na sociedade atual.
Portanto, é essencial ampliar o debate sobre letramento algorítmico e dar mais visibilidade a grupos de pesquisa que discutem o tema à luz da justiça e da equidade social. É o caso do Center for Critical Race + Digital Studies, que produz pesquisas e sensibiliza a sociedade sobre como raça e identidade moldam e são moldadas pelas tecnologias digitais.
Nesse sentido, a educação antirracista deve extrapolar a efeméride do Dia da Consciência Negra e fazer parte do dia a dia das escolas, assim como o letramento algorítmico precisa conquistar mais espaços na formação de crianças e adolescentes. A discussão e conscientização sobre questões éticas e morais relacionadas à inteligência artificial e aos algoritmos são fundamentais para a construção de uma sociedade mais justa e equitativa em meio à crescente influência dessas tecnologias em nossas vidas.
