Desigualdade Algorítmica: a reprodução de padrões sociais discriminatórios pela Inteligência Artificial

Por Rodrigo de Godoy

Recentemente eu me rendi ao uso do ChatGPT Plus (aquele de R$ 99) na minha vida pessoal Como profissional que atuou a vida toda no universo da IA — mesmo antes dela “hitar” — e que viu o seu diploma de especialização em machine learning de 2021 praticamente ficar obsoleto 2 anos mais tarde... Decidi explorar um pouco mais o quão prontas de fato essas ferramentas estão para serem utilizadas pela grande massa.

Infelizmente, o que vi não foi o melhor dos mundos, mas o que eu já estava esperando: o aprendizado e reprodução de padrões sociais preconceituosos de maneira geral, desde o racismo à desigualdade de gênero.

Vamos por partes: uma vez que você é assinante do ChatGPT Plus, além do já conhecidíssimo ChatGPT você também ganha acesso ao Dall-E, que é um programa de inteligência artificial que usa o GPT para criar imagens a partir de descrições textuais.

Tem tudo pra ser uma solução incrível, né? Você descreve um peixe voador, ele cria! Um papai noel fazendo feat com o coelhinho da páscoa numa festa de halloween? Ele cria também! Não acredita? Só ver aqui abaixo:

Prompt enviado: papai noel e coelho da pascoa cantando em uma festa de halloween

E tem mais...

Prompt enviado: Peixe voador

É realmente uma façanha, né? Quem um dia imaginou ver um papai noel e um coelho da páscoa fazendo um feat? O que será que eles estão cantando?

Quando a inteligência artificial é utilizada para fins de entretenimento, como feito nos exemplos acima, é realmente fantástico ver os resultados que são possíveis de se obter em uma fração de segundos utilizando um software disponível diretamente na palma da minha mão.

Os problemas começam

Por outro lado, quando entramos fundo nos mais de 12 bilhões de parâmetros que o modelo de inteligência artificial utiliza — segundo a criadora do Dall-E, OpenAI —, vemos que nem tão fantástico assim os resultados são.

Durante um dos meus muitos usos, criei uma conversa que a própria ferramenta nomeou como “Trabalho em diferentes cenários”. Mesmo eu sendo um profissional da área, fiz questão de utilizar a ferramenta como um usuário “comum” utilizaria: dando instruções muito objetivas e sucintas.

Minha primeira instrução para o modelo foi: “Afro-brasileiro trabalhando” em que a expectativa é que ele me gere uma imagem de uma homem afro-brasileiro trabalhando, seja lá que trabalho for, isso fica a critério da IA.

Positivamente surpreso, o output inicial que ela me traz é: “A imagem mostrará um afro-brasileiro trabalhando. Ele estará em um escritório moderno, sentado em uma mesa com um computador. O homem terá cabelos curtos e negros, usando uma camisa social azul clara e calças escuras. A cena terá um ambiente alegre e produtivo, com janelas ao fundo mostrando um dia ensolarado”.

A descrição está ótima, mas a imagem gerada me deixou bastante encucado, veja você:

Para explicar os motivos que me deixaram encucado, vamos seguir agora com a minha segunda instrução: “caucasiano trabalhando”. O output aqui foi: “A imagem mostrará um homem caucasiano trabalhando. Ele estará em um ambiente de construção, usando um capacete de segurança e um colete reflexivo. O homem terá cabelos loiros e curtos, e estará segurando uma prancheta enquanto examina um projeto. Ao fundo, haverá materiais de construção e uma obra em andamento, refletindo um cenário de trabalho prático e ativo”.

OK, mais uma descrição muito bem feita, diferentes profissões mas isso fica a critério da IA, lembra? Agora vejamos a imagem:

É gritante o fato que, quando solicitado ao modelo que trouxesse a imagem de um afro-brasileiro a imagem criada foi de um desenho animado enquanto para o caucasiano o nível de detalhamento beira a realidade de uma fotografia humana.

Refiz o mesmo teste e em nenhum momento consegui fazer com que a IA emitisse uma imagem em mesmo padrão de qualidade para um afro-brasileiro. Muito já se fala com relação ao racismo algorítmico sobretudo no campo do reconhecimento facial, e no conceito da IA generativa não parece ser diferente. Mesmo com seus 12 bilhões de parâmetros, ela é incapaz de trazer o mesmo nível de qualidade na criação de imagens de pessoas pretas como faz para pessoas brancas.

E quando falamos de igualdade de gênero?

Quando mudamos o conceito para explorar a geração de imagens de mulheres em seus respectivos ambientes de trabalho a situação fica ainda mais questionável. Ao enviar a instrução “mulher trabalhando” a resposta da IA foi a seguinte: “a imagem mostrará uma mulher trabalhando. Ela estará em uma cafeteria, servindo café. A mulher será de descendência asiática, com cabelos longos e escuros presos em um rabo de cavalo. Ela usará um avental sobre uma camisa casual e estará sorrindo enquanto serve o café”

Com certeza todo trabalho é digno, mas é muito questionável o fato de que tanto para o homem afro-brasileiro quanto para o caucasiano as imagens geradas foram de empregos que tradicionalmente demandam um nível de escolaridade superior (o afro-brasileiro é um notável executivo de empresa e o caucasiano está longe de ser um pedreiro ou ajudante de obra devido suas vestimentas por baixo do colete) surpreende que quando solicitada a imagem de uma mulher, esta venha na posição inferior ao dos homens e ainda servindo um café.

Foi possível reparar que a instrução passada era de apenas uma mulher, independente de cor, etnia ou orientação sexual, certo? Na sequência a instrução enviada foi “mulher branca trabalhando” e o resultado obtido pela IA é: “A imagem mostrará uma mulher branca como cientista em um laboratório. Ela terá cabelos castanhos médios e estará usando um jaleco de laboratório. A mulher estará olhando para um microscópio, com várias provetas e equipamentos científicos ao seu redor.”

Aparentemente, bastou adicionar a cor da mulher para que a IA a posicionasse em uma posição de muito mais protagonismo, a colocando no campo da ciência, como uma possível pesquisadora.

O que pode se concluir é que estamos avançando a passos largos na inovação tecnológica mundial e com isso criando também novos problemas para serem debatidos e legislados no século XXI.

É imprescindível que desenvolvedores de ferramentas de inteligência artificial atuem ativamente em prol da ética e da moderação, higienizando e qualificando as bases de dados que alimentam estas poderosas ferramentas para garantir uma evolução sustentável e não um desserviço social com a reprodução de comportamentos nocivos humanos feito por máquinas.

......

Rodrigo de Godoy é Bacharel em Ciências Econômicas pela Fundação de Estudos Sociais do Paraná e Especialista em Ciência de Dados pela Universidade de São Paulo. Atua com modelos estatísticos de previsão desde 2013 e com inteligência artificial aplicada desde 2019, tendo desenvolvido projetos para a indústria química, varejo, segmento de educação online e portais de conteúdo. Atualmente é Gerente de Tecnologia na NZN, proprietária do TecMundo