O game MonsterMatch — disponível somente em inglês — pretende revelar o viés preconceituoso dos algoritmos de aplicativos de namoro. Lançado recentemente, o jogo é de autoria do desenvolvedor Ben Berman e do designer Miguel Perez e tem como objetivo simular o funcionamento desse tipo de app na prática. Contudo, no lugar de imagens de humanos, o game usa perfis de monstros. O projeto inicial da dupla ganhou o prêmio Creative Media Awards 2018, da Mozilla.
Para jogar o MonsterMatch é bem fácil: basta criar um personagem e depois deslizar a tela para visualizar outros perfis de monstros. Assim como em um app de relacionamento, será possível ignorar, rejeitar ou selecionar um usuário que seja de seu interesse.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
À medida que essa interação ocorre, o algoritmo do MonsterMatch começa a funcionar, fazendo recomendações e mostrando aos usuários como o seu sistema funciona. Dessa forma, alguns candidatos também começam a se repetir enquanto a tela do MonsterMatch é deslizada.
Perfil recomendado no game MonsterMatch. (Fonte: MonsterMatch/Reprodução).
Algoritmo de filtragem colaborativa
Isso acontece porque a maioria dos apps de relacionamentos usa um tipo de algoritmo de filtragem colaborativa, algo semelhante àqueles que fazem sugestões no Spotify e de produtos em e-commerces.
Esse tipo de algoritmo, como o próprio nome sugere, analisa decisões anteriores de outros usuários para prever novas preferências, o que pode reduzir as chances de certos tipos específicos de perfil serem vistos. Assim, o algoritmo pode passar a reter alguns usuários em detrimento de outros.
“A filtragem colaborativa [em apps de namoro] significa que os usuários mais antigos e mais numerosos do aplicativo têm influência excessiva nos perfis que os usuários veem posteriormente”, destaca o blog da MonsterMatch. Devido a esse fator, correspondências étnicas e de orientação sexual podem ser ignoradas.
MonsterMatch explica como seu algoritmo funciona em algumas recomendações. (Fonte: MonsterMatch/Reprodução)
Objeto de estudo e discussões
O uso de algoritmos está interligado ao aprendizado de máquina, no qual suas decisões passam a ser tomadas com base em bancos de dados. Caso esses últimos representem determinados padrões com relação à raça ou orientação sexual, por exemplo, a tendência é que o algoritmo passe a se comportar conforme essa lógica.
O assunto tem sido discutido em várias áreas e já foi inclusive tema de estudos científicos. A principal reivindicação é que algumas questões éticas sejam determinadas quando esse tipo de tecnologia for aplicada em alguma ferramenta.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
