Startup vende algoritmo de reconhecimento facial capaz de reconhecer etnias

Pode parecer até um pouco interessante do ponto de vista tecnológico, mas existe toda uma questão ética por trás disso: uma startup russa está comercializando um algoritmo, desenvolvido pela própria empresa, capaz de realizar processos de identificação facial e reconhecer a etnia a qual a pessoa apresenta. Por mais que a tecnologia por trás disso chame atenção, ela é bastante preocupante: um sistema desses pode aumentar ainda mais a discriminação entre pessoas de diferentes origens.

O site da startup, chamada NtechLab, oferece o serviço para empresas interessadas e ainda apresenta uma imagem para ilustrar o recurso que foi já retirada do ar: nela, algumas pessoas tinham seus rostos rotulados como “europeu”, “africano”, “árabe” etc. A tecnologia chamou atenção de órgãos como a American Civil Liberties Union, que é terminantemente contra o uso de sistemas de reconhecimento fácil com inteligência artificial defendendo a liberdade das pessoas de não serem vigiadas e identificadas o tempo todo em qualquer lugar por dispositivos como câmeras de segurança.

Você tem cara de que?

Um sistema desse tipo poderia ser muito mal utilizado e reforçaria ainda mais uma discriminação que tantos lutam muito para derrotar

O reconhecimento de etnias foi ainda um passo além do que a organização considera aceitável. Essa tecnologia de reconhecimento poderia ser usada por forças públicas de segurança ou companhias privadas, como aeroportos, para fazer discriminação de raça ou etnia nos públicos que frequentam certos locais. A segurança de um aeroporto norte-americano, por exemplo, poderia fazer uma triagem preconceituosa sobre passageiros que o sistema reconhecesse como árabes, por exemplo, e assim por diante.

A discussão é profunda e longa: se ao mesmo tempo, certos desenvolvedores desse tipo de tecnologia são capazes de proezas na tecnologia de reconhecimento facial, o que tem um grande potencial de ser usado para coisas boas, um sistema desse tipo poderia ser muito mal utilizado e reforçaria ainda mais uma discriminação que tantos lutam muito para derrotar.