IA capaz de criar pornografia falsa com famosos está cada vez mais popular

Nós falamos em dezembro sobre uma inteligência artificial que vinha sendo usada para criar vídeos pornográficos falsos com famosos. Agora, em pouco tempo, a tecnologia evoluiu e se popularizou, com mais pessoas usando recursos de aprendizado de máquina para adicionar digitalmente rostos de famosos em conteúdo pornô.

A situação um tanto quanto bizarra foi descoberta em um fórum do Reddit pelo pessoal do site Motherboard. A mesma publicação, agora, volta a tratar do tema e ressalta o avanço da tecnologia usada na criação dos chamados “deepfakes”, os vídeos falsos criados com o auxílio de redes neurais.

Um dos usuários da plataforma, chamado de “deepfakeapp”, criou o FakeApp, um aplicativo que promete oferecer o recurso de maneira intuitiva e amigável, capaz de permitir que “qualquer um” crie esse tipo de vídeo usando materiais próprios. Segundo a reportagem, a intenção do inventor do app era justamente tornar o recurso acessível para quem não tem conhecimento técnico avançado para usufruir dele de outra maneira.

Preocupante: tecnologia vem se tornando cada vez mais popular e acessível

“Eu penso que a versão atual do aplicativo é um bom começo, mas espero refiná-lo ainda mais nos próximos dias e semanas”, comentou deepfakeapp em conversa com a repórter da Motherboard. “Eu quero aprimorá-lo a ponto de que um usuário possa selecionar um vídeo em seu computador, baixar uma rede neural correlacionada a um determinado rosto de uma biblioteca pública e trocar no vídeo apertando um único botão", prosseguiu.

A intenção do criador do aplicativo é ambiciosa, e não é difícil imaginar o quanto os resultados de sua inventividade podem ser prejudiciais. Ao navegar pelo Reddit, é fácil encontrar montagens com atrizes famosas, como Gal Gadot (“Mulher-Maravilha”), Daisy Ridley (“Star Wars – O Despertar da Força”) e Jessica Alba (“Sin City – A Cidade do Pecado”).

Para além dos problemas oriundos dos vídeos pornôs fakes, há ainda outro problema: vídeos falsos de personalidades ou políticos. Também não é difícil imaginar o potencial destruidor que esse tipo de serviço pode ter quando utilizado nesse âmbito.

Uso positivo?

Se pensarmos na aplicação desse tipo de recurso no cinema, por exemplo, a tecnologia pode ser muito bem-vinda. Um comparativo feito entre a cena original em que a Princesa Leia aparece no filme “Rogue One” e a cena reeditada, com o rosto trocado digitalmente, ressalta uma possível utilidade positiva do recurso.

Como quase tudo no mundo, então, essa tecnologia pode ser de grande utilidade na indústria do cinema e da televisão ou se tornar uma arma para arruinar reputações de anônimos e famosos.