Facebook e Unicef criam IA para dar dicas de segurança na web para jovens

Infelizmente, não é raro ver casos de meninas que têm as suas vidas devastadas após vídeos e fotos íntimas suas serem publicadas na web sem consentimento. Pensando em instruir adolescentes sobre os riscos de se compartilhar esse tipo de conteúdo na internet, Facebook e Unicef se uniram para criar uma inteligência artificial que interage por meio de um bot Messenger.

Batizado de Caretas, o projeto foi desenvolvido em parceria com a empresa de comportamento Sherpas e funciona como um bot. O cerne do projeto é a personagem fictícia Fabi, uma jovem que terminou um relacionamento e acabou descobriu que o seu ex-namorado vazou um vídeo íntimo dos dois na internet.

Os adolescentes interagem com a Fabi durante 48 horas e agem como o seu melhor amigo, ouvindo relatos e trocando experiências. A narrativa se apoia em fotos, vídeos, textos e até mensagens de áudio para auxiliar os jovens no aprendizado de como lidar com esse tipo de situação no mundo real. Além das dicas, os participantes recebem informações sobre como buscar ajuda de forma efetiva em situações de violência na web, como procurar a central de apoio da ONG SaferNet Brasil.

Inteligência artificial dá dicas para adolescentes sobre segurança na web.

“O Caretas é uma ferramenta digital que nos dá a oportunidade de conversar individualmente com cada adolescente, no ambiente em que ele está presente e na linguagem que ele costuma usar”, explica a representante do UNICEF no Brasil, Florence Bauer. “Toda a vivência dele na ferramenta tem o objetivo de criar empatia com a nossa personagem e informá-lo sobre os riscos do ambiente online.”

O Facebook destaca seu compromisso com a proteção da intimidade de seus usuários e cita como exemplo a ferramenta que impede que um nude seja compartilhado de forma não autorizada e a utilização de sistemas de reconhecimento facial.

“As ações educativas são essenciais para que as pessoas entendam como podem ajudar a criar um ambiente online mais acolhedor para todos”, comenta a gerente do Programa de Segurança do Facebook para a América Latina. “Acreditamos que o Caretas é uma iniciativa incrível justamente por unir tecnologia a um componente educativo e interativo para falar com adolescentes sobre segurança online de uma forma que faz sentido para eles.”

Primeiros resultados

O Caretas foi testado por 7,4 mil adolescentes entre junho e novembro de 2017, com mais de 1,6 milhão de mensagens trocadas entre eles e a inteligência artificial. Apesar de apenas 40% deles concluírem a experiência, o resultado foi positivo: antes, 39,8% dos que chegaram até o fim afirmavam saber o que é sexting e como se proteger de assédio e violência antes do contato com a Fabi; depois, esse número subiu para 90,5%.

Para experimentar o sistema Caretas e iniciar uma conversa com a Fabi, basta acessar facebook.com/projetocaretas e clicar em “Enviar Mensagem”.