GitHub bane DeepNude, um app de criação de deepfakes pornográficos

O repositório de códigos e plataforma para programadores GitHub baniu em definitivo o DeepNude, um programa de deepfakes que permitia a manipulação de imagens de mulheres para a produção de conteúdos eróticos sem consentimento, incluindo até deixá-las digitalmente sem roupas.

No fim de junho deste ano, quando o projeto foi descoberto, o próprio responsável pelo DeepNude anunciou que encerraria a criação. Entretanto, variações de código aberto do algoritmo utilizado pelo aplicativo não pararam de aparecer no GitHub — e esse espalhamento poderia resultar em várias consequências negativas e usos criminosos da tecnologia.

Em um comunicado enviado ao Motherboard, o site afirmou que os códigos violavam os termos e as condições da página por conterem conteúdo sexualmente obsceno. "Nós não monitoramos conteúdos gerados pelo usuário, mas investigamos ativamente denúncias sobre abuso. Nesse caso, removemos o projeto porque encontramos uma violação em nossa política de usos aceitáveis", disse o porta-voz.

Em defesa, os criadores alegam que os deepfakes criados pelo programa não são necessariamente voltados para a pornografia: indústrias como cinema e moda poderiam se beneficiar das montagens. Entretanto, parece que será mesmo o mercado de conteúdos adultos que liderará essa iniciativa, algo que foi capaz de assustar até os programadores originais do projeto.