Um teste realizado pela ACLU (American Civil Rights Union, ou União Americana pelas Liberdades Civis) teve um resultado bastante preocupante, mesmo nas circunstâncias não ideais nas quais foi realizado. A associação utilizou a plataforma de reconhecimento facial da Amazon, chamada Rekognition, para analisar os rostos dos 435 membros do congresso norte-americano. O resultado: 28 deles foram identificados como criminosos procurados pela polícia.
O que a associação quer mostrar é que a prática pode ser potencialmente muito perigosa, acusando inocentes erroneamente
Antes que comecem os comentários sobre como políticos e criminosos podem ser sinônimos – especialmente no Brasil –, a ideia da ACLU era mostrar como esse sistema pode ser perigoso, ou seja, como a dependência de plataformas de reconhecimento facial com uso de inteligência artificial pode levar a identificações erradas e acusações falsas. Para piorar a situação, no teste feito pela organização, 39% das pessoas negras analisadas foram consideradas criminosas, enquanto os erros entre brancos ficaram em apenas 5%.
Quem está errado?
Em defesa de seu sistema, a Amazon apontou alguns “erros” cometidos pelos testes da ACLU: o primeiro deles diz respeito à margem de tolerância do reconhecimento, que a organização configurou em 80% – o indicado para casos de justiça é 95%, ou seja, o sistema se torna mais detalhista. Outro fator mencionado pela Amazon é a necessidade de, em casos de polícia, que sempre haja uma análise feita por um ser humano antes de qualquer medida ser tomada em relação ao encontro de um suspeito.
Seja como for, não é uma questão de acusar a ACLU de ter “trapaceado” no teste para descreditar o sistema de reconhecimento facial – afinal, não há nenhuma lei vigente que regule coisa alguma em relação a essa prática que é, obviamente, extremamente recente. O que a associação quer mostrar é que a prática pode ser potencialmente muito perigosa, acusando inocentes erroneamente. Será que já estamos prontos para uma tecnologia como essa? Ou ainda melhor: será que essa tecnologia já está pronta para nós?
Fontes
