OpenAI criará software para detectar textos escritos pelo ChatGPT

Depois que o Departamento de Educação de Nova York decidiu bloquear o uso do chatbot de inteligência artificial ChatGPT no âmbito do ambiente de ensino da cidade, a OpenAI decidiu adotar “mitigações” para ajudar qualquer pessoa a identificar se um texto foi gerado pelo software. Entre essas medidas estaria até mesmo uma técnica de marca d’água, segundo o TechCrunch.

Pressionada por professores norte americanos que descobriram alunos usando a ferramenta para fazer seus deveres de casa e exprimiram preocupações sobre como esses modelos de linguagem podem incentivar o plágio e a trapaça em trabalhos escolares, a OpenAI, startup por trás do ChatGPT garantiu: "Sempre pedimos transparência em relação ao uso de texto gerado por IA”.

Como essa “franqueza” não é algo que ninguém pode esperar de todos os usuários, eles divulgaram uma nota na qual prometem “trabalhar com educadores em soluções úteis e outras maneiras de ajudar professores e alunos a se beneficiarem da IA". Isso poderia vir na forma de uma ferramenta que distingue escrita produzida por humanos daquela elaborada por máquinas.

O que mais preocupa os professores no uso do ChatGPT?

Fonte: Shutterstock/Reprodução.Fonte:  Shutterstock 

Em um artigo publicado no site Salon, o professor de Economia no Pomona College, Gary Smith, alerta sobre o caráter "ilusório" da real inteligência do Transformador Pré-Treinado Generativo 3, o GPT-3, nome técnico da versão atual do ChatGPT.

"O que ele faz é relativamente simples: o GPT-3 consegue se envolver em conversas notavelmente articuladas e escrever ensaios, histórias e até artigos de pesquisa convincentes", reconhece o professor. No entanto, "ele não tem ideia do que as palavras significam", assegura Smith.

Mas a grande questão com o ChatGPT é a trapaça, o que pode ser comprovado nas inúmeras ofertas da IA para escrever trabalhos escolares disponíveis no Google atualmente. Para comprovar isso, reportagens publicadas recentemente no The Wall Street Journal e na Forbes concluíram em questão de minutos três ensaios universitários.