Na semana do Dia Internacional das Mulheres, a Twitch decidiu se posicionar oficialmente sobre o crescente problema do uso de deepfake na criação de imagens obscenas não consensuais imitando pornografia. A plataforma agora promete banimento instantâneo caso conteúdo do tipo seja intencionalmente mostrado pelo streamer em alguma de suas lives.
Até exibir de maneira acidental momentaneamente será motivo de reprimenda, com o vídeo ao vivo sendo completamente removido e uma advertência. A propagação de propósito desse tipo de conteúdo causa um banimento não apenas instantâneo, mas logo na primeira ofensa e por "tempo indefinido".
— Maya (@mayahiga) February 1, 2023
A Twitch já tem regras contra pornografia, mas a prática de usar deepfake para criar imagens do tipo com o rosto de mulheres sem seu consentimento não é a mesma coisa. Em inglês tem sido usada a sigla NCEI, que significa "non-consensual exploitative images", ou "imagens exploratórias não consensuais". Em seu post, a plataforma diferencia:
"Chamar conteúdo NCEI sintético de pornografia é incorreto. Pornô (que já é proibido na Twitch) deveria ser consensual e deveria exibir pessoas que sabem que estão participando de atividades que outras pessoas vão ver. Não é isso que acontece aqui, e o porquê de ser importante que reforcemos que esse conteúdo é criado sem consentimento."
O post oficial no blog também ressalta que "deepfake" é uma palavra em alta agora, mas que essa é apenas uma de muitas maneiras usadas para se criar NCEI e qualquer tipo de conteúdo do tipo será banido imediatamente da Twitch.
O pivô da decisão
Segundo o The Verge, o posicionamento enfático recente da Twitch seria em resposta a um escândalo do dia 30 de janeiro. Na época, o streamer Brandon Ewing, conhecido como Atrioc, deixou uma janela aberta mostrando imagens NCEI de várias criadoras famosas, como Pokimane, QTCinderella e Maya Higa.
This story was how I found out that I'm on this website. I literally choose to pass up millions by not going into sex work and some random cheeto encrusted porn addict solicits my body without my consent instead. Don't know whether to cry, break stuff or laugh at this point. https://t.co/voNoxRyVBd
— Sweet Anita (@sweetanita) January 30, 2023
Atrioc se desculpou pelo ocorrido e chamou de "curiosidade mórbida". Não está claro se foram tomadas ações contra o streamer naquele momento, mas agora esse tipo de ofensa tem uma punição estabelecida.
