O cyberbullying é uma prática que prejudica muitos usuários da internet no mundo todo. Escondidos atrás de uma tela e com a segurança dada pela distância e pela anonimidade, pessoas inescrupulosas e covardes podem causar danos emocionais e psicológicos em conversas e publicações por meio das redes sociais.
O treinamento desse sistema foi feito com base em centenas de milhares de mensagens ofensivas escolhidas por pessoas reais
Para tentar barrar essa prática extremamente desagradável, a Jigsaw, empresa encubada pela Alphabet – que também inclui a Google –, revelou que está trabalhando com tecnologia de inteligência artificial para barrar mensagens e comentários considerados ofensivos ou “tóxicos”.
A plataforma foi batizada de Perspective e foi lançada hoje (23), ainda em um estágio bastante primário de desenvolvimento. Ela vai usar machine learning para entender o que poderia ser classificado como uma mensagem ofensiva postada em sites na internet. O treinamento desse sistema foi feito com base em centenas de milhares de mensagens ofensivas escolhidas por pessoas reais.
Entendendo as mensagens
A partir daí, o Perspective aprende o que pode fazer uma publicação ser considerada ofensiva e analisa o quão próxima das mensagens analisadas no aprendizado elas são. Se a máquina considerar que o conteúdo é “tóxico” e pode ofender alguém, ele será barrado e você receberá um aviso sobre o que aconteceu.
O jornal The New York Times passou a utilizar o sistema para controlar sua seção de comentários
A ideia, agora, é vender essa plataforma para outras empresas interessadas. A caráter de teste e com o intuito de ensinar o Perspective ainda mais, o jornal The New York Times passou a utilizar o sistema para controlar sua seção de comentários, tarefa que hoje é realizada por uma equipe que analisa um por um, numa quantidade diária de 11 mil.
Caso funcione adequadamente, essa plataforma pode mudar a forma como as pessoas se comunicam na internet: com mais respeito e de maneira muito mais civilizada.
Fontes
Categorias
