Novas medidas para reduzir a exibição de deepfakes de pornografia nos resultados das buscas foram anunciadas pelo Google nesta quarta-feira (31). Segundo a gigante de Mountain View, as otimizações se basearam no feedback de especialistas e vítimas da prática que tem ficado mais avançada graças à inteligência artificial.
Uma das mudanças objetiva tornar mais fácil o processo de remoção das imagens falsas de conteúdo explícito geradas por IA, acelerando a retirada de tais conteúdos da busca. Já a outra ajuda a diminuir a visibilidade do material, retirando-o das posições de destaque nos resultados.
O Google afirma que já diminuiu em mais de 70% a divulgação dessas imagens nas buscas. (Imagem: Getty Images)Fonte: Getty Images/Reprodução
A partir de agora, quando alguém solicitar à empresa a remoção de conteúdo falso explícito não consensual mostrado nas pesquisas, os sistemas da big tech tentarão filtrar todos os resultados em pesquisas semelhantes sobre a pessoa e removerão as imagens duplicadas. Isso acontecerá após o pedido ser aprovado.
O Google informou que a iniciativa se mostrou eficaz com outros tipos de imagens não consensuais e por isso será adotada no combate a deepfakes pornô.
“Esses esforços são projetados para proporcionar às pessoas mais tranquilidade, especialmente se estiverem preocupadas com a possibilidade de surgirem conteúdos semelhantes sobre elas no futuro”, explicou.
Mudanças no sistema de classificação
A gigante da tecnologia também quer que as imagens falsas de pornografia não consensual geradas por IA apareçam menos nos resultados principais das pesquisas. Para tanto, o motor de busca vai priorizar a exibição de conteúdos de alta qualidade e não explícito, como os artigos de notícias.
Por outro lado, os sites com alto volume de páginas removidas devido a violações das políticas contra conteúdo falso explícito serão rebaixados nos resultados. A metodologia auxilia na diferenciação entre os conteúdos reais e consensuais, como cenas de nudez de um ator, e deepfakes como as imagens falsas da mesma pessoa, segundo o relatório.
Ainda conforme o Google, atualizações recentes em seus sistemas levaram a uma redução superior a 70% na exposição aos resultados de imagens explícitas para esse tipo de consulta. Além disso, as alterações contribuíram para que o leitor se informasse melhor sobre o impacto da deepfake na sociedade.
Fontes
Categorias
