Atualmente, aproximadamente 117 milhões de pessoas fazem parte do banco de dados do sistema de reconhecimento facial criado pelo FBI (Federal Bureau of Investigation). As informações foram reunidas a partir de informações das carteiras de motoristas de cidadãos com idade superior a 18 anos em 26 estados norte-americanos. Acontece que 80% dos listados sequer cometeu crime algum e isso vem trazendo complicações. Para piorar, o software não é preciso como deveria. Por essas razões, a Comissão da Câmara para Supervisão e Reforma do Governo (House Committee on Oversight and Government Reform) vem questionando a eficácia dessa ferramenta.
15% das buscas os algoritmos atribuíram a mulheres negras transgressões que elas nunca cometeram
Os arquivos começaram a ser alimentados em 2010 com a chamada Nova Geração de Identificação, que surgiu para substituir a estrutura baseada em impressões digitais. O problema é que ninguém avisou a população que ela estava sendo fichada sem nem mesmo ter feito nada de errado. Isso só veio à tona em 2015.
Além da impopular decisão tomada pela agência federal, a central começou a apresentar falhas graves: em 15% das buscas os algoritmos atribuíram a mulheres negras transgressões que elas nunca cometeram. “O reconhecimento facial é uma ferramenta poderosa que a lei pode usar para proteger as pessoas, suas propriedades, nossas fronteiras e nação", disse o presidente da comissão, Jason Chaffetz.
"Mas também pode ser usado por pessoas mal-intencionadas para assediar e perseguir indivíduos e de uma forma que limita a liberdade de expressão e livre associação, ao buscar as pessoas que participam de certas reuniões políticas, protestos, igrejas ou outros tipos de lugares públicos. "
Faltam ajustes na lei e no software
O diretor-executivo do centro de privacidade e tecnologia Georgetown Law afirma que a falta de supervisão e regulação dessa iniciativa do governo tem consequências perigosas para a sociedade. “Nenhuma lei federal controla essa tecnologia e nenhuma decisão judicial a limita.”
O Gabinete de Prestação de Contas do Governo (Government Accountability Office — GAO) estadunidense já auditou os algoritmos de reconhecimento facial do FBI no ano passado e conclui que falta exatidão e supervisão. “Não dá para saber quantas vezes o sistema identifica incorretamente. Pessoas inocentes podem ser acusadas injustamente, incluindo a implicação de ter investigadores federais aparecendo em suas casas ou empresas”, criticou Diana Maurer. integrante do GAO.
FBI ainda não falou sobre os questionamento feita pela comissão
Como já citada, a maior falha foi o sistema atribuir a maior parte dos delitos aos negros, principalmente as mulheres, e ignorar os brancos. "Acho que a questão vai além das preocupações relacionada à primeira emenda (que em resumo garante liberdade de expressão e religião)", disse o deputado republicano Paul Mitchell durante a audiência. “Não quero apenas proteger alguém de ser identificado em um protesto político. A realidade é que devemos proteger a todos, a menos que haja uma ação de justiça criminal documentada válida."
Ainda não há declaração do FBI a respeito, seja para falar sobre as recomendações do GAO ou os questionamentos feitos pela comissão.
Fontes
Categorias
