O Tribunal de Justiça de São Paulo (TJSP) suspendeu ontem (18) um edital que previa a compra e instalação de 20 mil câmeras de reconhecimento facial. O juiz Luis Manuel Fonseca Pires, da 3ª Vara de Fazenda Pública, argumentou em sua decisão que a tecnologia pode reproduzir racismo estrutural.
O edital Smart Sampa foi aberto pela prefeitura da capital paulista e o pregão seria realizado já na próxima terça-feira (23). O magistrado que suspendeu a licitação também considera que a vigilância pode violar a Lei Geral de Proteção de Dados (LGPD).
“A dimensão do impacto que o sistema tecnológico de monitoramento por reconhecimento facial produz impõe a responsabilidade ao Poder Público de apenas considerar o seu uso após a definição de regras legais precisas que ponderem os objetivos da segurança pública com os direitos fundamentais”, diz trecho da decisão destacado pela Agência Brasil.
As câmeras do edital Smart Sampa seriam usadas para segurança, de acordo com a prefeitura.
A justiça paulista ainda destacou que pesquisadores já apontam há algum tempo o risco de inteligências artificiais que detectam rostos reproduzirem preconceitos. O treinamento das máquinas é feito com produções culturais humanas e acabam refletindo diversos vieses, dentre eles visões racistas.
A OpenAI, que desenvolveu o ChatGPT, já alertou sobre o assunto e diz trabalhar para diminuir esses vieses para tentar eliminar estereótipos preconceituosos nas respostas.
Interpelação jurídica
O edital Smart Sampa estabelecia a compra de pelo menos 20 mil câmeras de reconhecimento facial para São Paulo. Os equipamentos seriam instalados próximo a parques, hospitais, praças de grande circulação e nas entradas e saídas da cidade, por exemplo.
Uma das contestações do projeto foi apresentada pela Bancada Feminista, mandato coletivo do PSOL. Por nota enviada à Agência Brasil, o coletivo justificou a tese contrária ao edital.
Entidades que defendem os direitos humanos alertam para os vieses na tecnologia de reconhecimento facial
“A anulação do pregão irá evitar que a cidade aprofunde o racismo estrutural por parte da administração municipal”, pontuou a covereadora Silvia Ferraro. “Já é de conhecimento mundial que as câmeras de reconhecimento facial são máquinas de punir injustamente o povo negro”, afirmou.
A prefeitura de São Paulo informou ontem que ainda não havia sido notificada da decisão judicial, mas que “irá adotar todas as medidas judiciais cabíveis para a reforma da decisão, a fim de garantir a realização do pregão eletrônico do programa Smart Sampa, previsto para a próxima terça-feira (23)”.
Fontes
Categorias
