A OpenAI implementou uma correção em seu registro de alterações em 25 de setembro após pesquisadores da Objective-See Foundation identificarem uma vulnerabilidade no aplicativo ChatGPT para macOS. A falha de segurança possibilitava que invasores assumissem o controle do programa no computador do usuário, ganhando acesso a históricos de conversas, dados salvos e sessões de navegador.
O mecanismo de defesa do aplicativo checava assinaturas digitais em até três camadas de processos para atestar a autenticidade de componentes da OpenAI. Contudo, a brecha existia porque um interpretador de scripts confiável aceitava instruções externas e podia ser acionado três vezes consecutivas para burlar a conferência de processos pai e avô. Dessa forma, a aplicação podia executar ordens em benefício do invasor, como consultar outros programas sensíveis, simulando ações legítimas do próprio software.
“Eles também verificam o pai e o avô daquele processo, mas o script malicioso simplesmente inicia o interpretador de script três vezes e depois faz a requisição para que ela atenda aos requisitos” No original, em inglês: “They also check the parent and grandparent of that process, but the malicious script just spawns the script interpreter three times and then makes the request so it will satisfy the requirements” Patrick Wardle1
Em contato com a WIRED, o porta-voz da OpenAI, Shane Bauer, afirmou que a empresa trabalha na evolução contínua de seus procedimentos de proteção. Além dessa correção, Patrick Wardle submeteu um novo relatório de segurança à companhia a respeito da integração do ChatGPT com o assistente Dots, caso que está sob análise técnica.
“Continuamos a evoluir nossas práticas de segurança, mas reconhecemos a necessidade de avançar mais rápido” No original, em inglês: “We continue to evolve our security practices, but recognize a need to move faster” Shane Bauer1