A Meta tem um criador de stickers com inteligência artificial (IA) que pode acabar gerando imagens, no mínimo, controversas. Um usuário descobriu que a ferramenta integrada ao Messenger não tem nenhum filtro para criar figurinhas estranhas ou até mesmo obscenas.
O usuário do X, ex-Twitter, @Pioldes compartilhou prints do criador de stickers gerando figurinhas bizarras, como personagens da Nintendo armados, Mickey Mouse indo ao banheiro e uma criança soldado. Até mesmo o primeiro-ministro canadense Justin Trudeau e o Papa Francisco apareceram em stickers zoados.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
found out that facebook messenger has ai generated stickers now and I don't think anyone involved has thought anything through pic.twitter.com/co987cRhyu
— defend trans rights????? - podesbiens.bsky.social (@Pioldes) October 3, 2023
A ferramenta de criação de stickers da Meta foi apresentada na semana passada durante o evento da empresa. Ela usa as capacidades do modelo LLaMA 2 para criar as figurinhas a partir de descrições em texto em questão de segundos.
A ferramenta foi integrada somente ao Messenger do Facebook, mas ela também estará no Instagram e no WhatsApp. No primeiro momento, a disponibilidade do criador de figurinhas é exclusiva para usuários que falam inglês.
facebook told me that the walt disney corporation fully endorse this pic.twitter.com/oJyclhfNEi
— defend trans rights????? - podesbiens.bsky.social (@Pioldes) October 3, 2023
Ainda que a função tenha liberdade para fazer muitas criações controversas, aparentemente há palavras bloqueadas. Nesse caso, o recurso não gera nenhuma imagem e informa que a descrição pode não seguir as políticas da comunidade.
Mesmo assim, há relatos de que esse bloqueio pode ser contornado ao descrever a palavra em questão ou com erros de digitação.
— Aaron (@YNWA_Aaron) October 4, 2023
Meta deve trabalhar numa correção
Tais problemas são comuns no lançamento de novas ferramentas com inteligência artificial, seja em texto, imagens ou áudio. Talvez por isso a Meta tenha liberado a novidade somente para uma quantidade limitada de usuários.
Agora que as criações bizarras do criador de figurinhas se tornaram públicas, é questão de tempo até a Meta tomar conhecimento sobre o problema e trabalhar numa correção. É possível que a empresa torne o modelo mais restritivo, aprimorando sua capacidade de evitar problemas, antes que mais usuários possam experimentá-la.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
