Deepfake é uma técnica que utiliza recursos de inteligência artificial para substituir rostos em vídeos e imagens com o propósito de chegar o mais próximo possível da realidade. O termo é uma mistura das expressões deep learning e fake e significa o emprego da IA para criar uma situação falsa.
Como surgiu a deepfake
Os primeiros vídeos utilizando a técnica deepfake surgiram no início de 2019 e traziam celebridades norte-americanas, como o ator Nicolas Cage, encarnando o presidente estadunidense Donald Trump, como no exemplo a seguir.
Vídeos produzidos por meio de efeitos visuais são superpopulares no cinema há algumas décadas, mas a deepfake trouxe um pouco dessa "magia" para pessoas comuns, da mesma forma que tornou alvos todos aqueles que são populares e não necessariamente astros do cinema atuando em uma obra.
O que era caro e extremamente trabalhoso se tornou simples e acessível a princípio para especialistas da área e posteriormente para o grande público por meio de aplicativos móveis e plataformas online. Hoje, é possível criar manipulações realistas usando computador e internet em casa.
De acordo com John Vilasenor, pesquisador do Centro de Inovações Tecnológicas Brookings Institution, organização que pesquisa o tema, a popularidade da técnica tem chamado atenção de autoridades para a necessidade da fiscalização e regulamentação da tecnologia.
Como funciona a deepfake
A técnica é baseada em deep learning, uma subclassificação de IA para definir algoritmos de podem reconhecer padrões com base em um banco de dados. Isso significa que, para criar um vídeo de deepfake de determinada personalidade, o sistema precisa ser alimentado com fotos e vídeos em que ela aparece. Quanto mais material houver, maiores serão as chances de se obter um bom resultado. Treinada com base no conteúdo fornecido, a IA aprende como a pessoa se comporta, passando a reconhecer padrões de movimento, trações do rosto, da voz e de outras características.
Veja um exemplo de deepfake com o CEO do Facebook, Mark Zuckerberg.
Depois de treinado, o sistema usa uma técnica chamada rede contraditória (GAN, na sigla em inglês) para reproduzir os movimentos e a fala como se estivessem sendo realizados pela pessoa que será o alvo do vídeo. Durante a etapa de GAN, são criadas imagens e comparadas com as de origem (banco de dados), corrigindo-as automaticamente caso seja encontrado algum erro, o que otimiza todo o processo até chegar ao resultado.
Ferramentas responsáveis por popularizar a deepfake
No início de 2019, uma das ferramentas de deepfake mais conhecidas era o ZAO, um app chinês criado para iOS que permitia capturar uma selfie e embutir o rosto no corpo de um personagem de filme ou série em segundos. Por questões de segurança, o programa limitava as cenas em que os usuários podiam editar vídeos falsos, uma vez que a técnica poderia ser usada para a criação de fake news.
Para quem precisa de algo mais sofisticado, o FSGAN reproduz não apenas os trejeitos do rosto da fonte mas também sua voz. A ferramenta foi criada por Yuval Nirkin e está disponível na Open University of Israel. Para que funcione, no entanto, é necessário um hardware de altíssimo desempenho que é praticamente impossível de ser adquirido por usuários finais.
Já o Deepfakes Web ß cria vídeos, funciona online e pode ser contratado por qualquer pessoa disposta a pagar US$ 2 por hora de uso. O tempo total necessário para criar uma deepfake chega a 4 horas e meia, o que dá mais ou menos R$ 47 por produção. Nesse caso, o processamento das informações é feito na nuvem, então funciona como se o usuário estivesse alugando os recursos de hardware da empresa.
Uso da deepfake no Brasil
No Brasil, a técnica tem sido bastante utilizada para criar memes de personalidades políticas. Os vídeos mais populares envolvem o Presidente Jair Bolsonaro e o ex-Presidente Lula e abrangem todo tipo de assunto. Na deepfake a seguir, Lula canta "Obsessed", da Mariah Carey, em alusão à suposta obsessão que Bolsonaro tem por ele.
Fontes
Categorias
