A rede social Snapchat facilita o encontro entre crianças e predadores sexuais, é o que afirma o Departamento de Justiça do Novo México, nos Estados Unidos. Autoridades locais deflagraram uma operação contra o abuso sexual infantil na semana passada para entender como essa relação acontece.
O trabalho foi realizado com a ajuda da inteligência artificial. Os policiais desenvolveram imagens explícitas de menores para criar uma conta falsa na plataforma e capturar “novas amizades” interessadas no perfil.
De acordo com o Departamento, o Snapchat “é uma plataforma de mídia social para compartilhamento de material de abuso sexual infantil (...) Seu algoritmo entrega crianças a predadores adultos”.
Em um relatório que foi detalhado pelo site Ars Technica, um dos investigadores criou uma conta falsa para uma criança de 14 anos chamada “Sexy14Heather”.
O Snapchat definiu a conta como privada e o investigador não seguiu qualquer perfil da rede social. Mesmo assim, “Heather” foi recomendada para outras contas já existentes na rede com nomes como “child.rape” e “pedo_lover10”, afirma o Departamento.
O comunicado divulgado para imprensa também detalha que, após esse investigador aceitar o pedido de conexão com apenas uma conta, outras recomendações de amizade ficaram ainda mais pesadas.
No total, foram cerca de 91 usuários, “incluindo usuários adultos com contas que incluíam ou buscavam conteúdo sexualmente explícito”. Entre as conversas trocadas, todas incluíam pedidos de fotos, chats explícitos, troca de conteúdo e coerção de atitude sobre o perfil falso da menor.
As autoridades também notaram que, mesmo que “Heather” não tivesse enviado qualquer mensagem escrita de teor sexualmente explícito, o algoritmo entendeu que o perfil buscava material de abuso sexual infantil oferecendo opções para “Heather”. Dentre as opções, a criança poderia seguir perfis com os seguintes nomes: "naughtypics" "addfortrading" "teentr3de" "gayhorny13yox" e "teentradevirgin”.
“Nossa investigação revelou que recursos feitos por design do Snapchat são prejudiciais e criam um ambiente onde os predadores podem facilmente atingir crianças por meio de esquemas de sextorção e outras formas de abuso sexual”, disse o procurador-geral Torrez, do Departamento.
“Por meio do nosso litígio contra Meta e Snap, o Departamento de Justiça do Novo México continuará a responsabilizar essas plataformas por priorizar os lucros em detrimento da segurança das crianças”, acrescentou.
Perfil falso (arstechnica)
Como nasceu a investigação
A polícia do Novo México prendeu um homem, chamado Alejandro Marquez, por estupro de vulnerável em 2022. Marquez abusou da ferramenta Quick Add do Snapchat para encontrar sua vítima.
Tempos depois, as mesmas autoridades prenderam um homem chamado Jeremy Guthrie pelo mesmo crime. Na época, a polícia afirmou que seus contatos foram “cultivados no Snapchat”.
As prisões foram o ponto de partida para o Departamento de Justiça do Novo México utilizar imagens geradas por inteligência artificial para caçar predadores sexuais.
Contudo, a utilização de IA por forças policiais pode ser um problema, segundo Carrie Goldberg, advogada especializada em crimes. Em entrevista ao Ars Technica, ela disse que “réus podem alegar que o governo os induziu a cometer um crime que eles não cometeriam se as imagens não existissem”. Além disso, que a criação de qualquer material de abuso infantil é ilegal, e a lei serve todos.
Não há muitas informações sobre como os policiais desenvolveram a imagem via IA — também não há informações sobre preocupações que cercam essa questão entre autoridades.
O procurador-geral Torrez, do Departamento de Justiça, alega que foram encontrados mais de 10 mil registros de material de abuso sexual infantil no Snapchat apenas em 2023.
“O Snap enganou os usuários fazendo-os acreditar que as fotos e vídeos enviados em sua plataforma desaparecerão, mas os predadores podem capturar permanentemente esse conteúdo e criar um anuário virtual de imagens sexuais infantis que são negociadas, vendidas e armazenadas indefinidamente”, comentou Torrez.
Perfil falso (arstechnica)
A resposta do Snapchat
O Snapchat respondeu o problema revelado pelo Departamento norte-americano alegando que vai responder, “de maneira cuidadosa”, essas reivindicações no tribunal.
“Temos as mesmas preocupações do Procurador-Geral Torrez e do público sobre a segurança online dos jovens e estamos profundamente empenhados em que o Snapchat seja um lugar seguro e positivo para toda a nossa comunidade, especialmente para os nossos utilizadores mais jovens (...) Estamos trabalhando diligentemente para encontrar, remover e denunciar maus atores, educar nossa comunidade e fornecer aos adolescentes, bem como aos pais e responsáveis, ferramentas para ajudá-los a estar seguros online”, declarou.
O Snapchat encerra seu comunicado: “continuamos trabalhando em colaboração com as autoridades, especialistas de segurança online, parceiros de indústria, pais, adolescentes, educadores e forças policiais que compartilham da nossa visão em manter as pessoas mais jovens seguras na internet.
Realidade Violada 3: Predadores Sexuais
O TecMundo irá lançar, em breve, o documentário Realidade Violada 3: Predadores Sexuais. Você pode assistir ao trailer aqui:
Categorias
