A essa altura muita gente sabe que o que falamos perto de dispositivos móveis está sendo registrado pela inteligência artificial (IA). Mas ninguém nos avisa exatamente que estamos sendo também ouvidos por outros seres humanos. Isso é o que uma recente matéria pesquisa do Bloomberg sobre a Amazon revelou a respeito do funcionamento da assistente digital Alexa.
Segundo 7 pessoas que trabalharam no setor — em locais como Boston, Costa Rica, Índia e Romênia —, os empregados ouvem centenas de gravações de usuários todos os dias. A justificativa é ajudar no treinamento do algoritmo para que ele possa conhecer melhor os sotaques e diferenciar termos como “Taylor Swift” — e assim a máquina pode entender melhor que se trata da cantora.
Alguns dos colaboradores chegam a trabalhar 9 horas por turno e há até mesmo casos em que são flagradas frases que podem configurar algum crime em andamento, a exemplo de abuso sexual. Quando isso acontece, de acordo com essas fontes, há até mesmo um chat interno para que esses registros sejam compartilhados internamente — a sugestão da Amazon é para não interferir e “desabafar” seria uma forma de aliviar o estresse.
Amazon responde
A política de privacidade da Amazon até admite que usar as conversas da Alexa para treinar o reconhecimento vocal, mas não deixa claro que há outras pessoas escutando o que os usuários dizem.
Há até uma opção para desabilitar “as gravações de voz para o desenvolvimento de novos recursos” e os auditores não teriam acesso ao nome completo e endereço — mas os dados do perfil estão associados a um número de conta que pode revelar informações que podem identificar os donos do dispositivo, a exemplo do número de série e o primeiro nome.
Fonte: CNet
Anteriormente, a Ring, companhia de campainhas inteligentes comprada pela Amazon, já havia sido observada fazendo algo parecido, com humanos identificando manualmente veículos e pessoas por meio de vídeos capturados pelo sistema.
Amazon diz que registra apenas uma pequena amostra dos comandos feitos à Alexa
“Levamos a segurança e a privacidade das informações pessoais de nossos clientes a sério. Anotamos apenas uma amostra extremamente pequena de gravações de voz do Alexa para melhorar a experiência do cliente. Por exemplo, essas informações nos ajudam a treinar nossos sistemas de reconhecimento de fala e compreensão da linguagem natural, para que o Alexa possa entender melhor suas solicitações e garantir que o serviço funcione bem para todos”, disse um porta-voz da empresa em um comunicado enviado por email.
Prática é comum, mas não fica muito claro que está acontecendo
As redes neurais precisam compreender os padrões do cérebro humano para evoluir. Para isso, é necessária a intervenção de funcionários. A Apple, por exemplo, diz que a Siri analisa as informações dessa forma, mas assegura que não há dados de identificação pessoal e o conteúdo fica armazenado por 6 meses, vinculado a um identificador aleatório. Em alguns casos, pode ficar guardado por um tempo maior.
A Google afirma que os revisores podem acessar trechos de áudio da Google Assistente, contudo, esse material não fica associado de forma que uma pessoa possa ser reconhecida e a gravação recebe uma certa distorção.
De qualquer forma, há um certo desencontro no esclarecimento para os usuários. Embora tenha fins que possam realmente melhorar o desempenho de um smart speaker, essa prática pode incomodar muita gente.
Categorias
