Alguns anos atrás, escrevi sobre pesquisas mostrando como banco de imagens podem ser tendenciosos. Seus resultados para pesquisas pelo termo “desenvolvedores” costumam trazer imagens predominantemente masculinas e pesquisas por “responsáveis pela limpeza” retornam imagens predominantemente femininas.
Uma pesquisa da Universidade de Nova York destaca como esses resultados de pesquisa podem ser prejudiciais e reforçar preconceitos, inclusive na hora de buscar profissionais para as empresas. O estudo revela que mesmo os buscadores de internet neutros em termos de gênero ainda podem gerar resultados dominados por homens, o que pode ter um impacto significativo nas decisões de contratação e ajudar a propagar preconceitos de gênero.
“Há uma preocupação crescente de que os algoritmos usados pelos modernos sistemas de Inteligência Artificial produzam resultados discriminatórios, presumivelmente porque são treinados em dados nos quais os preconceitos sociais estão incorporados”, explicam os pesquisadores. “Como consequência, seu uso por humanos pode resultar na propagação, em vez de redução, das disparidades existentes entre homens e mulheres” no mercado de trabalho.
Preconceito não é só do algoritmo
Para tentar melhorar as coisas, os pesquisadores conduziram uma série de estudos para determinar como o nível de desigualdade na própria sociedade se transfere para o nível de preconceito de gênero nos algoritmos. E, a partir disso, como a exposição a essas buscas e seus resultados influenciam os tomadores de decisão a perpetuar os preconceitos.
Eles começaram coletando dados do Global Gender Gap Index (GGGI), que fornece uma classificação da desigualdade de gênero em cerca de 150 países. O índice abrange uma ampla gama de métricas de desigualdade, incluindo participação econômica, saúde e sobrevivência, escolaridade e empoderamento político, com cada país recebendo uma pontuação de “desigualdade de gênero”.
Eles começaram coletando dados do Global Gender Gap Index (GGGI), que fornece uma classificação da desigualdade de gênero em cerca de 150 países. O índice abrange uma ampla gama de métricas de desigualdade, incluindo participação econômica, saúde e sobrevivência, escolaridade e empoderamento político, com cada país recebendo uma pontuação de “desigualdade de gênero”.
