Gemini é pego bisbilhotando documentos pessoais sem autorização

O Gemini foi acusado de escanear arquivos PDF guardados no Google Drive sem autorização dos usuários, apontou um especialista em IA no X (ex-Twitter). O assistente virtual com inteligência artificial estaria resumindo documentos de forma automática, mesmo quando o recurso está desabilitado.

O comportamento irregular foi detectado quando o especialista conhecido como Kevin Bankston (@KevinBankston, no X) foi editar um documento pessoal no Google Docs. Ele afirma que, sem pedir, o Gemini ofereceu uma versão resumida do arquivo, já inteiramente pronta.

• Leia também: A busca global por privacidade de dados na era da IA

Porém, o arquivo em questão era pessoal, e Bankston não pretendia acionar a IA do Google. Portanto, o modelo do Google analisou e processou o arquivo sem a autorização do usuário.

Just pulled up my tax return in @Google Docs--and unbidden, Gemini summarized it. So...Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

"Acabei de acessar minha declaração de renda no Google Docs e, espontaneamente, o Gemini a resumiu. Então, o Gemini está ingerindo automaticamente até mesmo os documentos privados quando eu abro no Google Docs?", questionou Bankston na publicação.

Na thread original, o especialista conta todo o processo para tentar encontrar a opção para desabilitar o recurso — e nem mesmo o Gemini deu o caminho certo. Ele encontrou a configuração da função de "Resumir documentos", mas notou que ela já estava desabilitada.

Após investigação aprofundada, Bankston percebeu que o erro começou a acontecer após apertar o botão do Gemini em pelo menos um documento, assim acionando a IA no Google Docs. Depois disso, todo arquivo daquele mesmo formato vai acionar os recursos do modelo do Google.

• Saiba mais: Inteligência Artificial: 4 cuidados para usar uma IA com Segurança

Outra teoria levantada pelo usuário é a participação no Workspace Labs. Bankston descobriu que estava cadastrado como testador desde 2023, e essa participação possivelmente se sobrepôs às configurações normais do assistente.

Qual o problema do resumo automático?

Para fazer resumos de documentos, o Gemini precisa "digeri-los". O processo implica em pegar o documento, enviá-lo para os servidores do Google, e então devolver a resposta pronta, tal como se fosse um comando em texto.

Contudo, esse comportamento automático não é interessante para documentos pessoais, já que podem conter informações sensíveis que o usuário não deseja compartilhar com a IA.

O fato de a opção para desativar a função não estar acessível também reforça um problema: o usuário que não deseja ter a função habilitada terá dificuldade para descobrir como desligá-la.

Até o momento, o Google não se manifestou sobre o assunto. Sendo assim, é impossível dizer se a IA realmente bisbilhota documentos pessoais sem ser acionado por usuários, ou se isso foi um engano provocado por Bankston.