Facebook cria banco de dados com 100.000 deepfakes para treinar IA

O Facebook divulgou um banco de dados com 100.000 vídeos criados com deepfake. Cerca de 3.426 atores participaram dos vídeos, que foram elaborados com as mais variadas técnicas. O objetivo da empresa é disponibilizar material suficiente para que especialistas desenvolvam um modelo de inteligência artificial capaz de identificar a prática automaticamente.

Com a popularização de ferramentas para a criação de deepfake, essa prática tem sido cada vez mais comum e mais difícil de detectar. O diretor técnico do Facebook, Mike Schroepfer, reconhece que isso ainda não é um problema grande, mas disse que a empresa quer estar preparada para o pior cenário possível.

Deepfake Detection Challenge

 Deep Fake Challenge/Reprodução 

Entre os esforços da empresa para combater a prática está o Deepfake Detection Challenge, criado juntamente com a Microsoft, Amazon e a Partnership on AI. O desafio teve 2.114 participantes que submeteram 35 mil sistemas de detecção.

O modelo ganhador, anunciado recentemente pelo Facebook, teve 65% de eficácia na análise de 10 mil vídeos. Para gerar resultados mais precisos, os testes incluem vídeos capazes de confundir o sistema de detecção — como tutoriais de maquiagem.

Este sistema teve como base um novo tipo de rede neural convolucional (CNN) chamada EfficientNets que foi desenvolvida por pesquisadores do Google em 2019. As CNNs são comumente usadas para analisar imagens e são excelentes na detecção de rostos ou no reconhecimento de objetos.

 Facebook/Reprodução 

Apesar de esta descoberta representar um avanço, o Facebook não pretende usar o modelo vencedor em seu site,  afinal, 65% de eficácia ainda é insuficiente. Para Mike Schroepfer, o maior desafio é criar um sistema que apresente eficácia satisfatória e uniforme.

Ele acredita que uma maneira de melhorar a detecção é focar nas transições entre os quadros de vídeo, rastreando-os ao longo do tempo. "Mesmo os deepfakes de alta qualidade têm alguma oscilação entre os quadros", explica o diretor técnico. Segundo o Schroepfer, deepfakes não serão mais detectáveis por humanos no futuro e o combate desta prática através da tecnologia será a única saída.