Fotos de crianças brasileiras foram usadas sem autorização para treinar IA, diz denúncia

Fotos pessoais de crianças brasileiras foram utilizadas para treinar inteligência artificial sem autorização, reportou ontem (10) o grupo Human Rights Watch (HRW). As fotos estavam contidas em um grande banco de dados utilizado por companhias para alimentar modelos avançados.

Segundo a entidade de defesa dos Direitos Humanos, foram encontradas cerca de 170 fotos de crianças residentes de dez estados brasileiros: Alagoas, Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina e São Paulo.

Veja também: Como manter as crianças seguras na internet

Porém, a entidade aponta que podem existir mais imagens no banco, uma vez que há mais de 5,8 bilhões de arquivos na base de dados.

Fotos de crianças em vários momentos da infância foram encontradas na base de dados. (Imagem: Getty Images)Fonte:  GettyImages 

O banco de imagens em questão se chama LAION-5B, apontam as análises do Human Rights Watch. De acordo com o HRW, a base de dados é utilizada para treinar ferramentas de IA populares (não especificadas).

Dados pessoais das crianças brasileiras

Nas imagens encontradas, as crianças podem ser identificadas e, em alguns casos, os nomes das pessoas enquadradas estão na legenda ou integradas ao endereço URL dos arquivos.

"Em vários casos, suas identidades são facilmente rastreáveis, incluindo informação sobre quando e onde a criança estava no momento em que a foto foi tirada", descreve o Human Rights Watch.

Várias das imagens das crianças no banco de dados foram publicadas em blogs pessoais de brasileiros. (Imagem: Getty Images)

Os registros contidos no banco são de vários momentos da infância: logo após o parto, em brincadeiras com amigos, em seminários na sala de aula e mais. O HRW menciona que algumas das fotos parecem ter sido publicada em blogs pessoais ou em sites de compartilhamento de mídia.

Além de ser uma violação em privacidade, a presença das imagens na base de dados de treinamento de IA abre caminho para deepfakes. O HRW menciona que pelo menos 85 garotas alegaram assédio pelo uso indevido das fotos em imagens falsas.

Outro lado

Em resposta às alegações do HRW, a empresa responsável pelo LAION-5B, LAION, confirmou que a base de dados contém fotos pessoais de crianças e prometeu removê-las.