AI do YouTube não distingue vídeos e apaga até notícias sobre o ISIS

Sistemas de inteligência artificial podem facilitar muito a vida das pessoas, realizando atividades muito trabalhosas para serem feitas por humanos. No caso do YouTube, a plataforma de IA é responsável, entre outras coisas, por tirar do ar vídeos com conteúdo extremista ou ligados ao terrorismo, entre eles filmagens realizadas por células do grupo Estado Islâmico, o ISIS.

O problema é que a inteligência artificial do site de vídeos da Google não anda assim tão inteligente, pois tem apagado conteúdo jornalístico que diz respeito ao ISIS, mas que obviamente não é a favor do grupo fanático. São reportagens, pequenos documentários ou qualquer outra coisa que o sistema – equivocadamente – considera ter conteúdo "proibido".

Bloqueios sem distinção

Diversos criadores de conteúdo para a plataforma têm relatado que seus vídeos foram apagados pelo YouTube e até canais inteiros foram desativados porque a inteligência artificial do site entende que as filmagens podem veicular mensagens de apoio ao ISIS, quando, na realidade, é o contrário que acontece.

A Google usa um sistema de inteligência artificial com machine learning para avançar em seus esforços para remover conteúdos ligados ao terrorismo em sua plataforma de streaming

A Google usa um sistema de inteligência artificial com machine learning para avançar em seus esforços para remover conteúdos ligados ao terrorismo em sua plataforma de streaming, mas tem enfrentado problemas com a desativação equivocada de vídeos e canais.

Imagens como essas estão fazendo com que um vídeo inteiro seja removido do YouTube

Falhas na publicidade

Algo semelhante causou algumas saias justas para o YouTube recentemente, com o posicionamento de publicidade de grandes empresas em vídeos ligados a discursos de ódios e outras produções questionáveis.

As companhias resolveram remover as propagandas da plataforma enquanto não fosse dado um jeito na inteligência artificia do site para que suas marcas não fossem vinculadas a conteúdos negativos.

Enquanto a Google não se pronuncia oficialmente sobre o assunto, criadores de conteúdo reclamam como podem e lutam para ter seus vídeos e canais desbloqueados – mas a quantidade de falsos positivos ainda é alarmante e todo o esforço do YouTube em remover vídeos ligados ao terrorismo tem ido por água abaixo.