YouTube Kids está deixando escapar vídeos impróprios para crianças

Desde 2015, o YouTube disponibiliza uma plataforma específica para crianças, chamada YouTube Kids, que se propõe a exibir apenas uma programação apropriada para o público infantil. Para evitar que os baixinhos sejam expostos a vídeos com temáticas mais adultas, a Google – dona do YouTube – utiliza uma combinação de machine learning, algoritmos especiais e as denúncias feitas pelos próprios usuários.

O problema é que denúncias recentes têm mostrado que alguns vídeos bastante impróprios têm sido veiculados no YouTube Kids, certamente por uma confusão dos sistemas de segurança da plataforma. Estamos falando de paródias criadas por fontes obviamente não autorizadas que usam desenhos clássicos, como os da Disney, mas em situações “pesadas” para as crianças. Entre os exemplos flagrados, uma animação mostrava Mickey Mouse morte em uma poça de sangue, enquanto outra trazia o Homem Aranha urinando em Elsa de Frozen.

Parece um vídeo infantil, mas não é

Um pequeno deslize

Uma porta-voz do YouTube veio a público para esclarecer os acontecimentos, afirmando que apenas 0,005% do que foi visto no YouTube Kids possuía conteúdo impróprio e que as devidas providências já foram tomadas para remover os vídeos e acertar o sistema que impede que esse tipo de coisa chegue até o público infantil.

Usamos uma combinação de machine learning, algoritmos e denúncias da comunidade para determinar o conteúdo do aplicativo

"A equipe do YouTube Kids é composta por pais que se importam profundamente com isso, por isso é extremamente importante para nós consertarmos isso e agimos rapidamente quando os vídeos são denunciados", disse a porta-voz do YouTube no comunicado. "Usamos uma combinação de machine learning, algoritmos e denúncias da comunidade para determinar o conteúdo do aplicativo, bem como o conteúdo que exibimos em anúncios. Nós concordamos que este conteúdo é inaceitável e estamos comprometidos a tornar o aplicativo melhor a cada dia".

Morreram, mas passam bem

Repetindo o erro

Ainda no começo desse ano, o YouTube teve problemas similares com seus filtros de conteúdo quando diversas empresas – entre elas gigantes que pagavam anúncios milionários na plataforma – decidiram boicotar o serviço de streaming por terem suas marcas veiculadas automaticamente em vídeos com conteúdo de ódio e extremismo.