Esses resultados levantaram questões sobre a falta de diversidade de dados disponíveis para a IA, contribuindo para a perpetuação de estereótipos. Consultores contratados pela OpenAI para identificar problemas no serviço ressaltaram a importância de evitar locais turísticos e roupas tradicionais ao solicitar representações de mulheres brasileiras.
Entretanto, ao instruir o chatbot a evitar estereótipos, houve uma melhora significativa nas imagens geradas, consideradas pelo próprio sistema como “modernas e diversas”. Isso ressalta a necessidade de uma curadoria mais criteriosa dos dados utilizados no treinamento dos modelos de inteligência artificial.
A pesquisadora Micaela Mantegna alerta que o reforço de estereótipos não se limita apenas aos modelos da OpenAI, citando o exemplo do Google, que precisou desativar seu modelo Gemini após gerar imagens incorretas, como soldados nazistas negros e asiáticos.
Além disso, a diretora de pesquisa do InternetLab, Fernanda K. Martins, destaca a importância de uma discussão ética e responsabilidade das empresas na geração de representações precisas e não-discriminatórias pelas IA. Ela ressalta a necessidade de uma diversificação dos profissionais envolvidos no desenvolvimento dos modelos e uma regulação que considere comportamentos discriminatórios.
Em suma, a reflexão sobre a criação de modelos de IA mais éticos e precisos é essencial para evitar a perpetuação de estereótipos e preconceitos na sociedade. A busca por uma representação mais diversa e realista das pessoas, aliada a uma curadoria criteriosa dos dados, é fundamental para garantir a equidade e a precisão nos resultados gerados pela inteligência artificial.
