Amazon é acusada de vender tecnologia de reconhecimento facial para polícia

A Amazon tem negociado a sua tecnologia de reconhecimento facial Rekognition com agências de aplicação da lei nos Estados Unidos, acusou nesta terça-feira (22) a organização de direitos civis American Civil Liberties Union (ACLU).

O grupo realizou uma investigação durante seis meses sobre a participação da empresa de Jeff Bezos no mercado de vigilância. A pesquisa resultou na obtenção de emails e documentos que comprovam o relacionamento entre a Amazon e as autoridades dos EUA. O relatório da investigação está disponível neste link (PDF em inglês).

“A companhia desenvolveu um poderoso e perigoso novo sistema de reconhecimento facial e está auxiliando de forma ativa com o governo para a sua implementação”, acusa o grupo. A tecnologia da Amazon, ainda de acordo com os ativistas, é capaz de “identificar, rastrear e analisar pessoas em tempo real, reconhecendo até 100 pessoas em uma única imagem”.

A tecnologia foi anunciada pela gigante do varejo no fim de 2016 e alguns de seus recursos mais assustadores, como realizar tais façanhas descritas acima e comparar informações em tempo real com um banco de dados, foram alardeados pela própria Amazon.

Amazon estaria negociando o Rekognition com autoridades nos EUA, acusa a ACLU.

A ACLU percebeu que mesmo em seus materiais oficiais de propaganda a Amazon anuncia a vigilância pública como uma das possíveis aplicações do Rekognition — é possível, por exemplo, ver isso neste vídeo.

“Os materiais de marketing soam como um manual para vigilância autoritária”, acusa Nicole Ozer, diretora de liberdades civis e tecnologia da ACLU na Califórnia. “Uma vez que um sistema de vigilância perigoso como este é usado contra o público, o dano não pode ser desfeito. Especialmente no atual clima político, precisamos interromper a supervigilância antes de ela ser usada para monitorar manifestantes e imigrantes e espiar bairros inteiros. Estamos fazendo um alerta antes que seja tarde demais.”

Na prática

Um dos documentos obtidos pela ACLU revela que a Amazon colaborou com a prefeitura da cidade de Orlando e com o escritório do xerife do condado de Washington para implementar o Rekognition na vigilância pública. Enquanto Orlando usou o sistema para encontrar pessoas em imagens feitas pelas câmeras de vigilância da cidade, o Condado de Washington criou um app móvel que era usado por delegados para identificar pessoas nas 300 mil imagens do banco de dados local.

Segundo os emails obtidos pela organização, autoridades de outras regiões do país norte-americano, como Califórnia e Arizona, já demonstraram interesse na ferramenta, mas não há como saber ao certo quantos deles já adquiriram a tecnologia da Amazon.

“Já sabemos que os algoritmos de reconhecimento facial são discriminatórios contra negros e estão sendo utilizados para violar os direitos humanos de imigrantes”, afirma Malkia Cyril, diretora-executiva do Center for Media Justice, que se juntou a ACLU e outras organizações para solicitar que a Amazon não forneça a sua tecnologia para as autoridades.

Pedido a Bezos

Ao todo, 41 organizações se reuniram para redigir uma carta para Jeff Bezos (PDF), fundador e presidente da Amazon, solicitando que a empresa repense a decisão de colaborar com os governos no mercado de vigilância.

No documento, os grupos afirmam que “as pessoas devem ser livres para caminhar pelas ruas sem serem monitoradas pelo governo”. Além disso, eles destacam que a tecnologia “está preparada para uso abusivo nas mãos de governos” e representa “uma grave ameaça para as comunidades, pessoas de cor e imigrantes e para o respeito e a confiança que a Amazon trabalhou para construir.”

Diante disso, a empresa de Bezos deveria "agir rapidamente e se posicionar ao lado dos direitos e das liberdades civis, incluindo as de seus próprios clientes, e retirar o Rekognition da mesa dos governantes", pedem os ativistas.

Resta saber se a Amazon será convencida a ficar ao lado das liberdades civis ou se as cifras (não reveladas, obviamente) falarão mais alto.

[Atualização - 24/05 - 14h28] Por meio de sua assessoria de imprensa no Brasil, a Amazon afirma que exige que seus clientes façam uso responsável de suas ferramentas e nãos as utilizem no descumprimento das leis. Além disso, a companhia afirmou que suspende o fornecimento sempre que identifica alguma prática ilegal, apesar de não se manifestar especificamente sobre o caso acima. Confira a nota na íntegra:

A Amazon exige que os clientes cumpram com a lei e sejam responsáveis ao usarem os serviços da AWS. Quando descobrimos que os serviços da AWS estão sendo usados de maneira abusiva por um cliente, suspendemos o direito desse cliente de usar nossos serviços.

O Amazon Rekognition é uma tecnologia que ajuda a automatizar o reconhecimento de pessoas, objetos e atividades em vídeos e fotos com base nos dados fornecidos pelo cliente. Por exemplo, se o cliente fornecer imagens de uma cadeira, o Rekognition poderia ajudar a encontrar outras imagens da cadeiras em uma biblioteca de fotos enviadas por ele.

Como tecnologia, o Amazon Rekognition tem muitas aplicações úteis no mundo real (por exemplo, várias agências usaram Rekognition para encontrar pessoas sequestradas, parques de diversões usam Rekognition para encontrar crianças perdidas, o Casamento Real, que ocorreu nesse fim de semana, usou Rekognition para identificar os convidados, etc.) E a utilidade de serviços de inteligência artificial como esse só aumentará à medida que mais empresas começarem a usar tecnologias avançadas como o Amazon Rekognition.

Nossa qualidade de vida seria muito pior hoje se proibíssemos novas tecnologias, porque algumas pessoas poderiam optar por fazer um uso abusivo delas. Imagine se os clientes não conseguissem comprar um computador pessoal por que seria possível usá-lo para fins ilegais? Como qualquer um dos nossos serviços da AWS, exigimos que nossos clientes cumpram com a lei e sejam responsáveis ao usar o Amazon Rekognition.