Midjourney suspende versão grátis após deepfakes virais do Papa e Trump

Não tem mais Midjourney grátis! Pelo menos, por enquanto, o gerador de imagens que usa IA para criar ilustrações criativas teve a sua versão de testes no Discord suspensa. De acordo com o The Verge, o encerramento da edição aberta se deu após uma série de deepfakes produzidos pela ferramenta se tornaram virais.

Entre as imagens geradas pela IA consideradas cabulosas, está uma foto do Papa Francisco usando um longo casaco puffer branco, junto com seu tradicional zucchetto e um crucifixo no peito. Até mesmo imagens do líder da igreja católica segurando uma arma já circulam na web. Mas nada se compara à repercussão das fotos falsas do ex-presidente norte-americano Donald Trump, brigando para não ser preso por policiais — veja as fotos aqui.

Ao anunciar a mudança na terça-feira (28), o CEO e fundador da Midjourney, David Holz, não confirmou esse motivo, citando apenas “demanda extraordinária e abuso nos testes”, de acordo com o The Washington Post.

Papa usando casaco puffer longo em deepfake.Fonte:  u/trippy_art_special/Reddit 

Por que a versão gratuita do Midjourney foi suspensa?

A princípio, o Midjourney liberou a qualquer pessoa, no Discord, livre acesso a 25 gerações de imagens gratuitas antes de começar uma assinatura. O plano básico oferece até 200 gerações de imagens por US$ 8 (R$ 41) por mês, um preço considerado acessível quando se tem em conta as possibilidades da ferramenta.

• Personagens de GTA San Andreas são recriados por IA e resultado é incrível

Antes mesmo do lançamento do Midjourney, especialistas já alertavam sobre o risco potencial de a IA produzir desinformação. Na época, Holz se defendia, afirmando que, como as falsificações eram detectáveis com facilidade, "você não pode forçá-lo a fazer um deepfake agora", afirmou o executivo do The Verge.

Mas a coisa mudou de figura após o laboratório independente lançar, no dia 15 de março, a versão 5 da ferramenta, que trouxe vários melhoramentos na qualidade de imagens que retratam seres humanos. Mãos, por exemplo, passaram a ter representações mais fiéis, assim como a iluminação dos tecidos.