Perfilamento racial e a tecnologia: todo preto é igual?

Por André Menezes

O perfilamento racial é um conceito que se refere à prática de usar características raciais ou étnicas para determinar o comportamento, características ou tendências de uma pessoa ou grupo.

 Quando aplicado à tecnologia, o perfilamento racial pode se manifestar de várias formas, muitas vezes de maneira inadvertida ou inconsciente.

Isso pode ocorrer em sistemas de inteligência artificial, algoritmos de aprendizado de máquina e outras soluções tecnológicas que usam dados para tomar decisões ou fazer previsões.

Em 2019, o DJ Leonardo Nascimento foi “preso por engano” enquanto andava aos arredores do seu condomínio quando um crime brutal aconteceu e as câmeras de segurança filmaram o ocorrido do episódio. Acontece que, na época, Leonardo foi detido e acusado injustamente pela morte de Matheus Lessa, durante um assalto em Barra de Guaratiba, no RJ. Alguns dias depois, o verdadeiro autor do crime foi identificado e preso, o também homem negro Yuri Gladstone.

No último dia 16 de agosto deste ano, ao anunciar a morte da atriz Léa Garcia, 90, a Folha de S. Paulo cometeu um erro em sua publicação ao colocar a foto da atriz Jacyra Silva, que morreu em 17 de janeiro de 1995. E é exatamente daqui que parto, pois mesmo com a ajuda da tecnologia, muitas pessoas ainda acham que todo preto é igual.

A tecnologia pode ser uma excelente ferramenta contra o racismo, em especial a Inteligência Artificial.Fonte: Getty Images

Para quem não sabe, o perfilamento racial está entranhado no imaginário de muitos agentes públicos. O corpo preto, periférico, retinto, parado é suspeito, correndo é ladrão. Um ditado popular que muitos devem ter ouvido por aí. E nas fotografias, por ser preto, todos podem ser a mesma pessoa.

Em fevereiro de 2021, um levantamento inédito do Condege, entidade que reúne defensores públicos de todo país em parceria com Defensoria Pública do Rio de Janeiro, mostrou que 83% dos presos injustamente por reconhecimento facial no Brasil, são negros. O que ocorreu com Leonardo não é um caso isolado.

• Leia também: Onde estão os executivos pretos do mundo tech?

Para um panorama mais amplo e recente, conforme o 17º balanço do Anuário Brasileiro de Segurança Pública, a população carcerária bateu 832.295 pessoas no fim de 2022. Destes, 68,2% representam o número de negros; com idades entre 18 a 29 anos, representa 43,1%. Vale a pena lembrar que quando um agente do estado prende alguém somente pela cor da pele, ele está cometendo racismo institucional.

Diante dos inúmeros equívocos, é importante frisar que a tecnologia também pode ser uma ferramenta poderosa contra o racismo, principalmente no que diz respeito ao desenvolvimento constante da área de Inteligência Artificial (IA). É preciso entender que o corpo preto não é uma ameaça ou que deve ser seguido nos ambientes comerciais. A população negra é múltipla e diversa, e cada um de nós temos a nossa singularidade.

O perfilamento racial na tecnologia é uma preocupação séria, uma vez que pode ampliar as desigualdades sociais e prejudicar grupos minoritários. Devido a essas preocupações, muitas organizações têm levantado a voz contra o perfilamento racial tecnológico e a falta de transparência nos algoritmos.

Essas questões devem chamar a atenção para a importância da diversidade na indústria da tecnologia, na revisão ética dos algoritmos e na regulamentação para garantir que a tecnologia seja usada de maneira justa e equitativa para todas as pessoas, independentemente da sua origem racial ou étnica.

****
André Menezes é gerente de programas na Netflix. Com título de Master of Liberal Arts (ALM) in Extension Studies, field of Management (Mestre em Artes Liberais com foco em Administração) em Harvard uma das Universidades mais prestigiadas do mundo, desde pequeno sabia que seu esforço abriria portas para seu futuro. Criado no bairro dos Pimentas, zona periférica da cidade de Guarulhos, na grande São Paulo, seus passos ajudaram a tornar o profissional de sucesso que é hoje.