*Este texto foi atualizado às 15h55 do dia 23/11/2022.
A Meta, dona do Facebook, lançou uma versão demo do Galactica, um modelo de inteligência artificial alimentado por artigos científicos que é capaz de produzir sozinho papers acadêmicos, TCCs, resumos, montar e resolver fórmulas matemáticas e até gerar arquivos para Wikipédia, tudo a partir de prompts de texto simples.
O site de demonstração do Galactica explica que os seus modelos "são treinados em um grande corpus que compreende mais de 360 milhões de citações no contexto e mais de 50 milhões de referências únicas normalizadas em um conjunto diversificado de fontes. Isso permite que o Galactica sugira citações e ajude a descobrir artigos relacionados”.
Isso significa que, ao inserir qualquer assunto, como visto nas capturas de tela abaixo, a ferramenta produzirá artigos, citações e explicações, que continuarão sendo adicionados à medida que o usuário clicar em "Gerar mais".
Depois de dois dias no ar, o site de demonstração não dá mais a possibilidade de experimentar a plataforma. "Obrigado a todos por testarem o demo de Galactica", diz uma mensagem na página principal do projeto.
Os motivos do fim do teste não estão claros; a Meta ainda não se pronunciou oficialmente sobre a interrupção do teste. Ao CNET, o porta-voz de Inteligência Artificial da Meta, Jon Carvill, disse que o Galactica não é uma fonte de verdade, é um experimento de pesquisa que usa aprendizado de máquina. "É pesquisa exploratória de curto prazo e sem planos de se tornar um produto", afirmou.
De acordo com o CNET, a plataforma pode ter sido interrompida por apresentar risco de espalhar desinformação com base em uma leitura distorcida das pesquisas científicas.
Fonte: Galactica/DivulgaçãoFonte: Galactica
Fonte: Galactica/Divulgação.Fonte: Galactica
Implicações éticas do uso do Galactica na produção acadêmica
Uma das preocupações da Meta é que alguns estudantes decidam utilizar os sistemas de IA do Galactica para produzir, em seu nome, os seus trabalhos de encerramento de curso superior. Já há relatos de que alguns "empreendedores" estejam vendendo esses papers gerados por IA para "facilitar a vida" de colegas ou de quem esteja disposto a pagar pelo serviço.
Por isso, a empresa de Mark Zuckerberg fez questão de inserir vários alertas do tipo: “Alguns dos textos gerados pelo Galactica podem parecer muito autênticos e altamente confiáveis, mas podem estar sutilmente errados em aspectos importantes".
Falando ao AI Business, o diretor do Instituto Max Planck, Michael Black, alerta que "Escrever ciência gramatical não é o mesmo que fazer ciência. Mas será difícil distinguir”.
