App reconhece imagens para proteger crianças de conteúdo sexual

Um dos grandes desafios para pais e filhos nessa era de redes sociais e mensagens constantes é evitar que crianças sejam alvo de pessoas mal-intencionadas, especialmente as que enviam textos e imagens com nudez e conteúdo sexual. A YIPO Technologies criou um app que usa inteligência artificial (ou artificial intelligence — AI) para reconhecer o material ofensivo.

A resposta para os pais não é esconder um spyware no telefone da criança e sim protegê-la enquanto respeitam sua privacidade

Funciona assim: os adultos e os baixinhos baixam o Gallery Guardian e realizam o pareamento de seus dispositivos móveis. Quando utilitário percebe a criação, recebimento e compartilhamento de foto ou ilustração, entra em ação a computação em nuvem e a análise da plataforma. Caso for considerado impróprio, o arquivo é bloqueado e um alerta é encaminhado para o tutor — e isso promete ser feito de forma que não seja tão invasiva.

“Mídias sociais criaram novos desafios para os pais, mas a resposta não é esconder um spyware no telefone da criança. Com o Gallery Guardian eles podem proteger seus filhos enquanto respeitam sua privacidade”, conta o CEO da YIPO Technologias, Daniel Skowrosnki.

Reconhecimento na nuvem é essencial para o app

Essa nova frente na luta contra a pedofilia e outros problemas decorrentes do envolvimento de crianças com o precoce conteúdo sexual só é possível graças ao reconhecimento de imagens via inteligência artificial e máquina de aprendizado via computação em nuvem.

Material é processado fora do aparelho para evitar esgotamento da bateria do telefone

“Construímos uma biblioteca de pornografia para treinar nosso algoritmo. Para melhorar a detecção, também reunimos conjuntos de dados baseados em imagens de selfies, já que esse é o estilo de foto mais comum tirado em smartphones”, comenta Skowronksi. Isso evita que o app esgote a bateria do telefone processando análises enquanto guarda os arquivos no local.

A companhia também adianta que usa criptografia poderosa para manter as informações dos filhos distantes de pessoas mal-intencionadas e que todo o conteúdo em questão é deletado assim que a varredura acontece. Para quem ficou interessado, a novidade pode ser baixada gratuitamente, com pagamentos embutidos, na App Store e na Play Store.