Com a onda de demissões no Twitter a todo vapor, Elon Musk dissolveu nesta sexta-feira (4) a equipe que era responsável por tornar os algoritmos da plataforma mais transparentes. Criada em abril do ano passado, a ML Ethics, Transparency, and Accountability (META) fazia auditorias nos algoritmos da rede social para procurar danos e preconceitos não intencionais.
Comandados por Rumman Chowdhury, uma cientista de dados bengali americana, o grupo de pesquisadores era composto por engenheiros respeitados e de alto perfil que, antes de fazer parte do Twitter, criticavam a empresa. A colíder do grupo, Timnit Gebru, havia sido demitida do Google em dezembro de 2020, por criticar a política de diversidade da Big Tech.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Com um mês de existência, uma investigação da META descobriu que o algoritmo do Twitter havia se desviado da paridade demográfica em 4%. Na prática, isso fazia com que, quando todas as coisas em uma foto fossem iguais, a função de recorte "preferia" um indivíduo branco a um preto. A diretoria do Twitter acatou o estudo e parou de usar o tal algoritmo.
Como foram as reações à demissão da IA Ética do Twitter?
Imagine feeling relief that you’re the one on the receiving end of the thanos snap ??
— Rumman Chowdhury (@ruchowdh) November 4, 2022
Chowdhury já esperava a demissão e se considerou "aliviada em receber a estalada de dedos de Thanos", lembrando em um tweet o vilão responsável por aniquilar metade do Universo Marvel no filme Vingadores: Guerra Infinita. No início da semana, ela afirmou à revista Wired que sua equipe estava realizando novas pesquisas importantes sobre viés político que poderiam ser utilíssimas tanto para o Twitter como outras redes sociais.
Com a implantação acelerada de ferramentas de IA em grande parte das empresas do mundo, muitas delas viram a necessidade de criar suas equipes de ética para regular a automatização de preconceitos de raça, gênero e idade, como aplicativos de cartão de crédito que dão às esposas limites mais baixos que seus maridos por exemplo.
A equipe META do Twitter era uma das mais ativas e respeitadas.
What a tragedy. This team was amazing… a brilliant team providing transparency and productive critique from inside Twitter. https://t.co/F8GRBq0OIM
— Kate Starbird (@katestarbird) November 4, 2022
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
