Loja do ChatGPT está cheia de robôs ilegais que simulam namoradas virtuais

A recém-lançada loja do ChatGPT, com diferentes versões personalizadas da inteligência artificial (IA), já é um sucesso. Porém, uma das variantes do chatbot que mais cresce em popularidade, na verdade, nem deveria ser disponibilizada por lá.

De acordo com uma reportagem do Quartz, chatbots que simulam namoradas virtuais já "inundaram" o serviço da OpenAI dias depois do lançamento. Uma busca por "girlfriend" (namorada em inglês) resulta em diversas IAs programadas para serem um par romântico por conversas de texto.

• Saiba mais: OpenAI lança GPT Store, loja para baixar diferentes versões do ChatGPT

Pesquisas feitas no ambiente digital resultam em chatbots que prometem uma companheira atenciosa, romântica e que conhece a fundo o usuário.

Os nomes variam: há robôs já batizados com um nome, como Judy ou Scarlett, enquanto outros são chamados pela função, como "Namorada Virtual" e "Namorada de Linguagem Global". Aparentemente, versões masculinas de robôs de relacionamento são mais raras no serviço.

A busca na loja do ChatGPT mostra a popularidade do tema.Fonte:  Quartz/OpenAI 

Durante o papo, é possível interagir ao digitar mensagens ou então utilizar questões pré-programadas. Exemplos prontos de um dos chatbots incluem perguntas como "Qual a sua ideia de uma noite divertida?" ou "Qual é o seu segredo mais profundo?" para começar uma conversa.

Namoradas virtuais no ChatGPT são ilegais?

De acordo com o Quartz, apesar da aparente popularidade, as namoradas virtuais criadas a partir de uma versão personalizada do ChatGPT ferem as diretrizes da OpenAI. Em outras palavras, elas são proibidas e nem sequer deveriam estar no catálogo da loja.

• Confira: Dona do ChatGPT diz que é 'impossível' treinar IA só com domínio público; entenda

O começo de uma conversa com um chatbot de namorada virtual.Fonte:  Quartz/OpenAI 

Segundo as regras da plataforma, é proibido lançar robôs "dedicados a cultivar um relacionamento romântico" na plataforma.

Entretanto, a moderação da companhia ainda parece insuficiente para retirar todos esses chatbots do ar. Pesquisas feitas dias depois da matéria original indicam que vários foram de fato banidos, enquanto outros permanecem disponíveis.

• Leia também: ChatGPT é reprovado em teste de diagnóstico médico em crianças

Além disso, os criadores dos chatbots personalizados já buscaram formas de burlar a proibição. Alguns métodos envolvem a troca do termo "namorada" para outra palavra em inglês, como "sweetheart", o que ajuda a IA a escapar do filtro da OpenAI.