Apple Card é alvo de investigação por usar algoritmo sexista

Lançado em agosto deste ano, o Apple Card vai ser investigado pelo Departamento de Serviços Financeiros de Nova York por sexismo, depois de posts no Twitter denunciarem a diferença entre os limites de créditos entre homens e mulheres. A investigação será direcionada ao banco de investimentos Goldman Sachs, que fornece o algoritmo usado pelo Apple Card para determinar o limite de crédito de cada usuário.

A primeira denúncia partiu do desenvolvedor de softwares David Heinemeier Hansson; sua mulher, Jamie, apesar de ter melhor crédito, teve seu pedido por aumento de limites de gastos negado.

“O Apple Card é um programa tão machista. Minha mulher e eu fazemos declarações de renda juntos, moramos no mesmo lugar e somos casados há muito tempo. No entanto, o algoritmo caixa preta da Apple acha que mereço 20 vezes o limite de crédito do que ela merece. Ninguém nos dá respostas.”

Aos poucos, outros usuários começaram a relatar o mesmo.

“Eu e meu marido também vivemos juntos. Meu pedido de aumento de limite de crédito foi negado. O dele foi aprovado – o suficiente para comprar um carro.”

“Minha mulher tem crédito muito melhor do que o meu, um salário mais alto e recebeu um limite de crédito que é um terço do meu. Brincamos que talvez a Apple seja sexista. Parece que não é uma piada.”

Até mesmo o cofundador da Apple Steve Wozniak apareceu para reclamar.

“A mesma coisa aconteceu com a gente. Tenho dez vezes o limite de crédito. Não temos contas bancárias separadas. Difícil encontrar um humano para corrigir isso. Isso é tecnologia avançada em 2019.”

Defesa e aumento de limite no Apple Card não resolveram

Segundo o Goldman Sachs, “nossas decisões sobre linhas de crédito são baseadas no crédito do cliente e não em fatores como sexo, raça, idade, orientação sexual ou qualquer outro fator cuja discriminação é proibida por lei”. Porém, nem essa resposta nem o aumento do limite no Apple Card de Jamie Hansson acalmaram a situação.

“Também está errado como eles decidiram aumentar o limite de crédito da minha mulher sem abordar a raiz do problema. Vamos subornar quem está fazendo barulho no Twitter para não termos que questionar nossa fé torta no ALGORITMO.”