Dezenas de executivos do setor de tecnologia, entre os quais o dono do Twitter Elon Musk, solicitaram aos laboratórios de inteligência artificial (IA) que interrompam imediatamente o treinamento de sistemas mais poderosos do que o recém-lançado GPT-4, da OpenAI. O pedido está em uma carta aberta divulgada pelo Future of Life Institute nesta quarta-feira (29).
No documento, iniciado pela organização sem fins lucrativos sediada em Cambridge, nos Estados Unidos, os signatários afirmam que as ferramentas de IA capazes de rivalizar com a inteligência em nível humano representam riscos para a sociedade e a humanidade. Diante disso, sugerem a paralisação dos trabalhos por pelo menos seis meses.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
“Os sistemas de IA contemporâneos estão se tornando competitivos em tarefas gerais, e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?”, questiona a carta. Na sequência, a entidade cita outros perigos ao abusar da tecnologia.
O ChatGPT tinha 100 milhões de usuários dois meses após o lançamento.Fonte: GettyImages
“Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?”, continua o documento.
Protocolos de segurança
A pausa no desenvolvimento de novos sistemas de IA generativa sugerida por Musk e os demais executivos deve ser usada para o desenvolvimento e a implementação de protocolos de segurança em relação ao uso da tecnologia. Tais normas precisam ser auditadas e supervisionadas por especialistas independentes, conforme o documento.
Esses protocolos servirão para garantir que os futuros mecanismos de inteligência artificial sejam “seguros além de qualquer dúvida razoável”. Os signatários sugerem ainda que as autoridades governamentais intervenham e instituam uma moratória, caso os laboratórios de IA não paralisem as atividades por vontade própria.
Além do CEO da Tesla e da SpaceX, também assinam a carta aberta o cofundador da Apple, Steve Wozniak, o cofundador do Pinterest, Evan Sharp, o cofundador do Skype, Jaan Tallinn, e o inventor de redes neurais associativas, Jonh J. Hopfield, entre outros executivos e especialistas. O documento e a lista completa de assinaturas estão disponíveis no site do Future of Life Institute.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
