Pentágono quer usar perfis falsos gerados por IA para espionagem online

Contrariando as recomendações de especialistas e do próprio governo americano, o Pentágono tem planos de usar a inteligência artificial generativa para criar falsos usuários de internet com a missão de coletar informações em redes sociais e fóruns online. A estratégia foi detalhada pelo The Intercept na última quinta-feira (17).

Obtido pela reportagem, um documento do Departamento de Defesa dos Estados Unidos (DoD) mostra que o órgão quer criar “personas online convincentes” que não sejam identificadas por humanos nem mesmo por computadores avançados. Esses bots seriam utilizados em missões de espionagem e vigilância no mundo digital.

• Leia também: Fraudes com deepfake crescem 3.000% em 2023 com explosão de IAs

Os militares americanos buscam ferramentas que criem deefakes difíceis de detectar.Fonte:  Getty Images/Reprodução 

A tecnologia deve ser capaz de gerar pessoas falsas que se pareçam com um “indivíduo único reconhecível como humano, mas que não exista no mundo real”, diz um trecho do relatório. Elas precisam apresentar diferentes expressões faciais, fotos de altíssima qualidade, camadas de áudio e até vídeos no perfil.

O Pentágono ressalta que as imagens deepfakes dos bots devem conter um fundo falso correspondente para evitar que os perfis falsos sejam identificados por algoritmos das redes sociais. Em 2022, contas falsas operadas pelo órgão foram detectadas e removidas do antigo Twitter e das plataformas da Meta.

Aumento da desinformação

Técnicas como a que o DoD planeja usar nas operações de inteligência online podem contribuir para a disseminação da desinformação, como vem alertando o governo dos EUA. Autoridades afirmam que o uso de deepfakes e outros conteúdos criados por IA generativa podem aprofundar essa crise, especialmente em épocas de eleições e em outros contextos.

Isso também pode influenciar outros países a seguirem o mesmo caminho, abrindo brecha para métodos semelhantes que facilitem a vigilância digital e promovam mais práticas enganosas, de acordo com a cientista-chefe de IA do AI Now Institute, Heidy Khlaaf.

• Saiba mais: Imagem gerada por IA viraliza como falsa explosão no Pentágono

Em entrevista à publicação, a especialista disse acreditar que a utilização dos perfis falsos criados por IA generativa pelos militares poder levar a uma “sociedade onde é cada vez mais difícil distinguir a verdade da ficção e confundir a esfera geopolítica”. China e Rússia já foram flagradas usando a tecnologia desejada pelo Pentágono.