O Google anunciou nesta quinta-feira (26) a expansão do seu Programa de Recompensas de Vulnerabilidade (VRP) para a inclusão de bugs relacionados ao uso da inteligência artificial (IA) generativa. O projeto é conhecido pelos pagamentos aos hackers éticos que descobrem falhas em sistemas da gigante de Mountain View.
Segundo o Google, os problemas de segurança envolvendo ferramentas de IA generativa são diferentes das demais tecnologias utilizadas por ela. Por isso, são necessárias diretrizes específicas para detalhar quais tipos de descobertas se qualificam para receber a recompensa e aquelas que não se enquadram no VRP.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
- Leia também: O que é inteligência artificial generativa?
IA generativa da Google, o Bard é um dos principais concorrentes do ChatGPT.Fonte: Unsplash
Pesquisadores que encontram falhas capazes de permitir o vazamento de informações confidenciais e não públicas a partir da extração de dados utilizados no treinamento de modelos de linguagem, por exemplo, podem receber por este trabalho. Já, se forem vazados apenas dados públicos, o bug não se qualifica para o pagamento.
“Acreditamos que a expansão do VRP incentivará a pesquisa em torno da segurança e proteção da IA e trará à luz possíveis problemas que acabarão por tornar a IA mais segura para todos”, comentou a Google, em comunicado enviado ao TechCrunch.
Pesquisadores receberam US$ 12 milhões em 2022
No ano passado, o programa de recompensas por bugs do Google pagou US$ 12 milhões aos pesquisadores de segurança que participaram do projeto, o equivalente a R$ 60 milhões pela cotação do dia. Os valores variam conforme o tipo e a gravidade da vulnerabilidade descoberta.
Falhas que afetam apps de baixa prioridade costumam render até US$ 5 mil (R$ 25 mil) aos hackers éticos, enquanto bugs que propiciam o roubo de dados na Play Store e ataques de injeção de comando resultam em pagamentos superiores a US$ 31 mil (R$ 155 mil) para quem encontrá-los. O Google não revelou quanto vai pagar pela descoberta de falhas na IA.
O Google é uma das empresas que investem em ferramentas de IA generativa que se comprometeram a reforçar a segurança da tecnologia, mitigando riscos relacionados aos bugs, durante reunião com o governo dos Estados Unidos no início do ano.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
