Reprodução de vieses e influência no resultado
A mensagem que eu gostaria de dividir aqui tem a ver com tecnologia e a minha percepção neste campo, no qual atuo há mais de 20 anos.
Ao explorar o mundo da inovação e dos algoritmos, quero adicionar uma nova dimensão à conversa: a de todas as pessoas que têm pouco espaço e influência nas empresas e na sociedade em geral.
O que representa um mundo com pouca diversidade? A tecnologia em si não é tendenciosa, mas a história por trás dela é. O favoritismo tecnológico por certos dados demográficos levou a uma falta de diversidade entre os programadores e, assim, as máquinas replicam preconceitos muitas vezes involuntariamente.
A saboneteira com sensor, que não reconhece a mão negra, diz muito. Será que quem fez a saboneteira é racista? Não, mas provavelmente toda a equipe que a desenvolveu era composta por pessoas brancas, que testaram com a sua cor de pele. Ou seja, a falta de diversidade por trás do desenvolvimento influenciou contundentemente no resultado do produto.
Infelizmente, esse não é o único exemplo. Reconhecimento facial que falha ao identificar rostos femininos, reconhecimento de voz que favorece timbres masculinos, algoritmo de empréstimo que aprova mais homens brancos de certa idade, pois se baseia em dados anteriormente aprovados. Ou seja, a máquina aprendeu com o passado que tem um histórico que excluía diversidade. As máquinas só vão perpetuar isso de maneira exponencial.
O Gender Gap Report apontou que 72% dos profissionais de inteligência artificial são homens. E a ONU Mulheres mapeou apenas 17% de programadores do sexo feminino. Isso cria ambientes intimidadores para mulheres, que podem sentir a pressão de se encaixarem (“eu pertenço a este lugar?”) ou até mesmo desistir. Sem contar que elas já se sentem menos preparadas para entrar neste mundo das ciências exatas e matemáticas. É só lembrarmos que frequentemente as meninas ganham bonecas e panelas, e os meninos ganham caminhões e jogos de montar. Além disso, a desigualdade salarial persiste, refletindo práticas patriarcais ultrapassadas.
É crucial trazer mais diversidade para a tecnologia, pois a falta dela amplia os preconceitos sistêmicos. Se não tomarmos medidas intencionais para mudar essa realidade, os problemas de racismo, machismo e outros preconceitos só vão piorar à medida que a tecnologia avança.
A tecnologia é usada por pessoas de todas as origens, gêneros e idades. Se não houver diversidade no desenvolvimento, continuaremos a criar produtos com vieses. A diversidade de perspectivas enriquece o processo de criação e resulta em produtos melhores que atendem a uma ampla gama de consumidores. Essa é uma mudança que não só é boa para as empresas, mas também para o mundo.
O modelo organizacional antigo não se encaixa mais nas demandas do mundo contemporâneo. Portanto, é hora de agirmos intencionalmente para promover a diversidade na tecnologia, para o benefício de todos nós e do progresso da sociedade em geral.
(*) Maria Flávia Penha de Souza é diretora de Marketing na Deal, mentora de carreira para mulheres e membro da Open Mind Brazil (LinkedIn)
