Deepfake Porn: imagens ilegais em vídeos adultos estão fora de controle

O avanço dos deepfakes, combinação de "deep learning" (aprendizado profundo) e "fake" (falso), tem instigado uma transformação digital controversa. Entre as aplicações sinistras dessa tecnologia, o uso de deepfake porn se destaca.

A inquietante realidade dos vídeos adultos fabricados é uma crescente ameaça no mundo todo. Segundo a pesquisa divulgada pelo WIRED, o número de vídeos com conteúdo deepfake pornográfico aumentou 54% nos primeiros nove meses de 2023 em comparação com o ano anterior, que registrou 73 mil vídeos enviados.

E a perspectiva para os próximos meses não é nada otimista: estima-se que, até o final de 2023, a quantidade de vídeos publicados ultrapassará o número total de todos os anos anteriores somados em mais de 300 sites que incorporam, de alguma forma, pornografia não consensual.

Combater a deepfake porn é fundamental para evitar desinformação.Fonte:  GettyImages 

Diante desses números, o desespero bate à porta. Afinal, quase todo mundo tem alguma imagem pessoal circulando pela internet que pode ser manipulada pelos algoritmos da inteligência artificial (IA).

O primeiro passo para se prevenir é a informação. Por isso, saiba mais sobre o que são os deepfakes porn e por que essa tecnologia está gerando debates éticos importantes em diversas organizações mundiais.

O que é deepfake porn e como é produzido?

Deepfakes pornográficos são vídeos criados por meio de algoritmos de aprendizado profundo que substituem o rosto de um dos atores nas cenas de um filme adulto por outro, muitas vezes sem o consentimento da vítima.

Isso é feito usando um vasto conjunto de dados, geralmente composto por imagens ou vídeos da pessoa cujo rosto está sendo inserido nas filmagens. A tecnologia é tão avançada que as expressões faciais, a movimentação dos lábios e a iluminação são ajustadas para tornar a montagem o mais convincente possível.

O fenômeno dos deepfake pornográficos começou a ganhar notoriedade em meados da década de 2010 e sua prática tem aumentado desde então, impulsionada pela acessibilidade de software e hardware.

Mulheres são os alvos mais comuns de deepfake porn

A propagação de deepfake porn é uma ameaça mais recorrente para as celebridades, especialmente as mulheres. Artistas, streamers e criadoras de conteúdo são frequentemente alvos desses vídeos fraudulentos.

Vale lembrar que o termo "deepfake porn" começou a ganhar destaque na mídia quando um vídeo adulto deepfake da atriz Gal Gadot, a Mulher Maravilha, circulou em 2017. Desde então, o problema se espalhou amplamente.

Nina Jankowicz, uma pesquisadora de desinformação e ex-funcionária do Departamento de Segurança Interna dos EUA, destaca que à medida que os deepfakes se tornam mais convincentes, as mulheres públicas enfrentam uma ameaça crescente. Ela mesma foi vítima de uma campanha de notícias e imagens falsas em 2020.

O problema é ainda mais alarmante quando se considera que meninas menores de idade também são alvo. No sudoeste da Espanha, autoridades investigam 11 queixas de deepfake porn, todas envolvendo menores de idade.

Essas imagens falsas foram criadas usando um aplicativo de IA que permite aos usuários "tirar a roupa" de qualquer pessoa com base em uma foto. Infelizmente, a notícia veiculada pela EuroNews apenas confirma a disseminação do uso de deepfake porn.

Os vídeos e imagens falsas que circulam na internet comprometem, principalmente, mulheres.Fonte:  GettyImages 

As autoridades do Reino Unido já haviam divulgado meses antes que, somente entre janeiro e agosto de 2021, um único site que “despe virtualmente mulheres” recebeu 38 milhões de visitantes.

A gravidade do problema é enfatizada por mães preocupadas como Miriam Al Adib, cuja filha de 14 anos foi vítima desses deepfakes: "Meninas, não tenham medo de denunciar tais atos. Contem para suas mães. Mães afetadas, contem-me, para que possam estar no grupo que criamos".

Há benefícios no uso de deepfake?

Os deepfakes têm o potencial de revolucionar a maneira como interagimos com a mídia e o conteúdo online. Na verdade, essa tecnologia já está em ação. Pesquisadores acreditam que, nos próximos anos, até 90% do conteúdo online poderá ser criado de forma artificial.

O uso de deepfake pode ser feito de maneiras criativas e produtivas, como a criação de provadores em lojas virtuais para os consumidores e cenários dinâmicos em museus.

Embora seus benefícios sejam evidentes, assim como qualquer tecnologia, é essencial abordarmos a disseminação irresponsável e maliciosa desses conteúdos a fim de evitarmos os riscos envolvendo chantagem, bullying virtual e manipulação financeira e política. 

Como combater o deepfake porn?

De acordo com Ana Paula Fernandes, advogada pós graduada em Direito Penal e Processo Penal, quando tratamos de direito penal (e demais áreas), a norma sempre acompanha o desenvolvimento da sociedade.

"Até muito recentemente, entre 2017 e 2018, o desenvolvimento da inteligência artificial era muito pequeno. Não tínhamos acesso a grandes plataformas como existe hoje, que são fáceis de serem encontradas", alega Fernandes.

Por isso, há um certo "atraso" na implementação da lei em relação ao que acontece na sociedade.

Fernandes ainda complementa: "No Brasil, não há uma definição específica que regulamenta qual é a conduta exata que culmina em deepfake porn. Inclusive, nem sobre a própria deepfake em si".

• Leia também: Você seria enganado por uma deepfake? A resposta é sim!

Em janeiro de 2023, a China estabeleceu regras abrangentes exigindo o consentimento da pessoa que tiver a imagem manipulada, a identificação por assinaturas digitais ou marcas d'água e que provedores de serviços de deepfake ofereçam meios para refutar rumores.

A nova legislação chinesa ainda despertou um dilema nos demais países que estão discutindo como regulamentar essa tecnologia e coibir o deepfake porn. A pergunta é: como fazer isso preservando a liberdade de expressão?

Nos Estados Unidos, por exemplo, as regras atuais estão focadas em deepfakes de natureza pornográfica ou política. No último mês, o estado de Nova York aprovou uma lei que proíbe a disseminação de imagens pornográficas criadas com IA sem o consentimento do indivíduo retratado.

Na União Europeia, ainda se aguarda a concretização de propostas para impor restrições à tecnologia. É uma questão de imprevisibilidade, e as nações competem para estabelecer normas na cena global da inteligência artificial.

Como se proteger do uso de imagens ilegais em vídeos adultos?

Com a ajuda da especialista em direito penal Ana Paula Fernandes, elencamos algumas sugestões de como se proteger do uso de deepfake porn:

1. Restringir ao máximo o acesso às suas mídias, como ocultar a foto de perfil do WhatsApp para números desconhecidos;
2. Tome precauções ao ser fotografado em festas, como verificar o nome do fotógrafo, da empresa responsável pela divulgação e em qual plataforma será publicada;
3. Atente-se ao material que você compartilha nas redes sociais e ajuste suas configurações de privacidade;
4. Se você notar qualquer atividade online suspeita que envolva suas imagens ou informações pessoais, investigue e tome medidas imediatas;
5. Caso se torne vítima de deepfake porn, denuncie o caso às autoridades. Sua denúncia pode contribuir para a identificação dos responsáveis;
6. Utilize soluções de segurança digital confiáveis, como antivírus, firewalls e sistemas de detecção de deepfakes.

Proteger-se contra deepfake porn exige vigilância e educação. Continue navegando pelo TecMundo para se manter atualizado sobre as últimas notícias no mundo da tecnologia.