Mozilla 'desmascara' as bolhas de recomendação no YouTube

O algoritmo de recomendações do YouTube é tido como o principal fator que atua na formação de bolhas de conteúdo na plataforma — o que gera uma série de sugestões de clipes sobre temas polêmicos e controversos. Negacionistas do clima, terraplanistas e outros perfis de criadores de conteúdo foram impulsionados graças à inteligência artificial do site de vídeos, que tende a mostrar a um usuário mais clipes do mesmo tema se entender que você está interessado em determinado assunto.

Para entender melhor como isso funciona e mostrar na prática o resultado, a Mozilla criou um "simulador de usuário de YouTube" que realiza navegações automáticas e coleta os resultados. O projeto TheirTube, que troca a palavra em inglês que significa "você" (a "you" do título) por "deles" (ou "their"), mostra como o algoritmo é capaz de moldar até os espectadores mais céticos.

A ideia da Mozilla é parte de um projeto maior que examina os efeitos da inteligência artificial na sociedade, provando que a plataforma não distingue conteúdos sérios daqueles enviesados ou claramente falsos — e que o usuário, por confiar tanto no site, nem acaba percebendo que passou a fazer parte de uma bolha tão restrita.

Você pode conferir o simulador no site oficial do TheirTube.

Os resultados

A Mozilla chegou em seis perfis de bolhas de conteúdo: o Frugívoro, o Prepper, o Liberal (no sentido político norte-americano, mais voltado para ideais de esquerda), o Conservador, o Conspiracionista e o Negacionista do Clima. Ao clicar em cada um deles, você confere alguns dos vídeos em inglês que essa pessoa recebe do algoritmo do YouTube, além de uma descrição curta a respeito do grupo.

Nem todos os perfis são necessariamente danosos ao usuário: o Frugívoro envolve vídeos sobre como levar uma vida radical em termos de alimentação orgânica, o que não traz necessariamente consequências negativas. Já o Prepper (que pode ser chamado de "Precavido", em tradução livre) é sobre quem entra no mundo dos youtubers apocalípticos que falam em estocar suprimentos e construir bunkers, por exemplo.

O filtro-bolha dos negacionistas climáticos.Fonte:  TheirTube 

Porém, os perfis-bolha de ideais liberais ou conservadores, além dos conspiracionistas em geral, podem acabar em uma sucessão de clipes sobre pessoas com pensamentos iguais, o que elimina o espaço para debate e pode envolver o usuário em um espaço de intolerância e desinformação.

Em 2019, o YouTube prometeu reduzir a recomendação de vídeos de conspiracionistas que tratavam de temas como o terraplanismo. Apesar de ainda permitir muitos conteúdos controversos, a plataforma de fato reduziu a visibilidade de alguns desses temas a partir deste ano.