Facebook contará com ‘moderador de nudes’ para evitar o pornô de vingança

O Facebook anunciou na última quarta-feira (8) uma nova medida para combater o pornô de vingança na rede social. Em resumo, a ideia é que usuários enviem nudes próprios para a rede social a fim de evitar que essas fotos sejam compartilhadas sem o seu consentimento. A plataforma identifica a imagem, cria um código para ela e, então, remove instantaneamente sempre que ela é compartilhada de forma indevida em quase todos os serviços da empresa (Facebook, Messenger ou Instagram).

Nesta quinta-feira (9), a empresa de Mark Zuckerberg deu mais detalhes sobre o projeto, uma abordagem inédita e um tanto quanto controversa. Em um texto assinado por Antigone Davis, o diretor global de segurança da companhia, o Facebook reafirma que o programa será implementado em conjunto com a Australian eSafety Comissioner’s Office, a agência de segurança digital da Austrália, e traz uma novidade: contará com moderadores humanos.

O ponto de controvérsia aqui é que a imagem não será borrada para ser exibida ao moderador humano. Essa possibilidade havia sido aventada inicialmente, mas foi negada pela rede social. Ou seja, a foto será vista normalmente pelos profissionais do Facebook responsáveis por codificá-las. Apesar disso, a rede promete não armazenar a foto em si, mas apenas a sua identificação — Davis detalha os passos nos quais o novo programa será dividido.

Passo a passo

O processo começa com um cadastro no site da eSafety Comission, então o usuário deve enviar a foto em questão para si mesmo pelo Facebook Messenger. O órgão de segurança governamental, que não tem acesso à foto enviada, notifica o Facebook sobre o início do procedimento. É aqui que o moderador humano olha e classifica a imagem com um código número único e criptografado.

O Facebook afirma que esse código fica armazenada em seus servidores, não a imagem em si. Depois de a imagem ser codificada pelo Facebook, quem a enviou é notificado via email para que apague a imagem no Messenger em seu próprio dispositivo. “Uma vez que a foto é excluída da conversa, nós a deletaremos de nossos servidores”, garante o Facebook.

Segundo o companhia, apenas o código criado a partir da imagem é o suficiente para identificá-la sempre que ela for enviada em espaços públicos ou privados do Facebook, do Messenger ou do Instagram. “Se alguém tentar enviar a imagem para a nossa plataforma, como todas as fotos do Facebook, ela passa pelo banco de dados de códigos e, se combinar com algum deles, nós não permitimos a sua postagem ou compartilhamento”, registra a empresa.

Trabalho em conjunto

Além de unir esforços com a eSafety Comissioner’s Office, o Facebook está ouvindo também advogados de vítimas de pornô de vingança e até mesmo pessoas que já passaram por essa situação. A rede social afirma ainda estar atenta às opiniões de seus usuários para desenvolver novas maneiras de solucionar esse importante problema de fotos íntimas vazadas na internet.

“Estamos ansiosos para receber o feedback de nossa comunidade para a aprender as melhores maneiras de continuar solucionando essas questões difíceis”, finaliza Davis.