A OpenAI está criando uma equipe para garantir que a versão avançada do ChatGPT não supere a inteligência humana. Preocupada com os riscos potenciais que uma inteligência artificial (IA) ainda mais inteligente pode trazer para a humanidade, a desenvolvedora revelou detalhes sobre o trabalho na última quarta-feira (5).
Conforme a startup americana, a IA superinteligente é apenas uma ideia, no momento, mas não deve demorar para que este sistema, capaz de superar o raciocínio humano, esteja disponível. A empresa acredita que o mecanismo seja lançado em no máximo uma década.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Os riscos da IA para o futuro da humanidade voltaram a ser alertados pela OpenAI.Fonte: GettyImages
“Atualmente, não temos uma solução para direcionar ou controlar uma IA potencialmente superinteligente e impedir que ela se torne desonesta”, afirma a companhia no comunicado assinado pelo seu cofundador, Ilya Sutskever, e o chefe da nova equipe, Jan Leike. O objetivo é ter um mecanismo de controle antes que o sistema estreie.
No texto, os dois especialistas citam que a Super IA tem potencial para se tornar a tecnologia de maior impacto já inventada, auxiliando na resolução de muitos dos principais problemas da atualidade. Mas, ao mesmo tempo, ela traz riscos e pode “levar ao enfraquecimento da humanidade ou até mesmo à extinção humana”.
Mitigando riscos
A equipe de "superalinhamento", como o grupo é chamado, terá a missão de desenvolver novos avanços técnicos e científicos para controlar a IA superinteligente. Segundo a OpenAI, o plano inclui construir um pesquisador de alinhamento automatizado de nível humano nos próximos quatro anos.
Para esta tarefa, a startup reservará 20% do seu poder computacional, contando com o auxílio de pesquisadores de outras áreas. A companhia, inclusive, abriu vagas de emprego para os profissionais interessados em fazer parte do projeto, informando que está à procura das “melhores mentes do mundo”.
Esta não é a primeira vez que a criadora do ChatGPT alerta sobre os riscos de extinção da humanidade potencializados pela IA. Em maio, o CEO da empresa, Sam Altman, se juntou a outros nomes importantes do mercado, solicitando a regulamentação imediata da tecnologia, cujos perigos foram comparados aos de pandemias e guerras nucleares.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
