Uma ferramenta de Inteligência Artificial (IA) que o Google fornece aos desenvolvedores não adicionará mais rótulos de gênero às imagens, informando que o gênero de uma pessoa não pode ser determinado apenas pelo reconhecimento facial em uma foto, como relatado no site Business Insider. Em vez de usar "homem" ou "mulher", o Google marcará as fotos com rótulos de "pessoa" como parte de seu esforço maior para evitar algoritmos de IA com preconceito.
Em um estudo, os pesquisadores descobriram algoritmos que foram treinados com dados tendenciosos de imagens relacionadas à culinária, nas quais as mulheres tinham 33% mais probabilidade de aparecer, com 68% mais chances de prever que uma mulher estava cozinhando, mesmo quando a foto era de um homem em uma cozinha. Os sistemas de reconhecimento de imagem também confundem regularmente pessoas trans e não binárias.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
A empresa enviou recentemente um e-mail aos desenvolvedores sobre a mudança em sua ferramenta "API Cloud Vision", que pode detectar rostos, pontos de referência, logotipos de marcas e até mesmo conteúdo explícito. No e-mail, o Google citou suas próprias diretrizes de IA: "como o gênero de uma pessoa não pode ser inferido pela aparência, decidimos remover esses rótulos para nos alinharmos aos Princípios de Inteligência Artificial do Google, especificamente o Princípio 2: Evite criar ou reforçar preconceitos injustos".
Inteligência Artificial com preconceito
O reconhecimento de imagens de IA foi um problema "espinhoso" para o Google no passado. Em 2015, um engenheiro de software observou que os algoritmos de reconhecimento de imagem do Google Fotos estavam categorizando seus amigos negros como "gorilas". O Google prometeu corrigir o problema, mas um relatório de acompanhamento da Wired, em 2018, descobriu que o Google havia impedido sua Inteligência Artificial de reconhecer gorilas e não havia feito muito mais para resolver o problema. O Google lançou seus princípios de IA em 2018, em resposta à reação de funcionários que protestaram contra o trabalho da empresa em um projeto de drone do Pentágono.
Leia também: Reconhecimento facial encontra foragidos no Carnaval de Salvador
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
