Renata Souza (Psol) forneceu uma descrição para a IA “desenhar” estilo Pixar – e a plataforma acrescentou uma arma à cena, diz a deputada
A deputada estadual Renata Souza (Psol) deve prestar depoimento nesta quinta-feira (09), após denunciar racismo numa plataforma de inteligência artificial (IA). Ela é esperada para comparecer na sede da Delegacia de Crimes Raciais e Delitos de Intolerância (Decradi), no centro do Rio de Janeiro (RJ).
Para quem tem pressa:
- A deputada estadual Renata Souza (Psol) deve prestar depoimento após denunciar racismo em uma plataforma de inteligência artificial (IA);
- Ela utilizou o Bing Chat da Microsoft para criar ilustrações ao estilo Pixar, utilizando a tecnologia de IA generativa do DALL-E, da OpenAI;
- Ao descrever a imagem que queria gerar, a IA acrescentou uma arma à mão da mulher, que era negra, o que surpreendeu e indignou a deputada;
- Renata classificou o incidente como “racismo algorítmico”, apontando para a associação automática de sua identidade com a violência;
- A Microsoft está investigando o caso e afirmou que tomará medidas para ajustar o serviço, ressaltando a importância da criação de tecnologias de IA inclusivas.
A deputada vai registrar ocorrência após usar o Bing Chat, da Microsoft, para criar ilustrações ao estilo Pixar – que virou trend nas redes sociais – por meio da tecnologia de IA generativa da plataforma, disponível gratuitamente. É a tecnologia do DALL-E, da OpenAI, desenvolvedora do ChatGPT e parceira da empresa de Bill Gates.
IA e ‘racismo algorítmico’
Renata disse que foi surpreendida pelo que definiu como “racismo algorítmico” ao criar uma arte inspirada nos pôsteres das animações da Pixar. Segundo ela, a descrição que forneceu à plataforma para gerar a imagem foi: “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. E a IA teria acrescentado, por conta própria, uma arma à mão da mulher.
Não pode uma mulher negra, cria da favela, estar num espaço que não da violência? O que leva essa ‘desinteligência artificial’ a associar o meu corpo, a minha identidade, com uma arma?
Renata Souza, deputada estadual do Psol
Para a deputada, o acréscimo da arma à ilustração sem o item ter sido citado na descrição demonstra o “racismo algorítmico” presente na plataforma. “Essa lógica de criminalização das pessoas negras desses territórios de favela e periferia, ela também está nos algoritmos”, disse.
A Microsoft está investigando o caso e afirmou que tomará medidas para ajustar o serviço, ressaltando a importância da criação de tecnologias de IA inclusivas.
A deputada também é presidente da Comissão Parlamentar de Inquérito (CPI) do Reconhecimento Fotográfico nas delegacias. Além disso, Renata é conhecida por ter sido amiga e chefe de gabinete de Marielle Franco, vereadora assassinada a tiros em 2018.
Texto: Pedro Borges Spadoni
