David Robinson renuncia à OpenAI e publica críticas à cultura de segurança da empresa e do setor de IA

O que se sabe

• Robinson era responsável por liderar a redação dos relatórios de segurança que acompanhavam os principais lançamentos de produtos e modelos da OpenAI.²¹
• Robinson publicou um ensaio na revista The Atlantic afirmando que a cultura da OpenAI e da indústria do Vale do Silício está quebrada.²¹
• Robinson defendeu que empresas de IA de fronteira operem como usinas nucleares ou aeroportos movimentados, com camadas de redundância e planejamento cuidadoso.¹²
• A demissão de Robinson soma-se a outras saídas recentes de pesquisadores de segurança em empresas como Anthropic e Google DeepMind, incluindo Jacob Coxon, Joe Benton, Robert O’Callahan, Bilal Chughtai e Josh Engels.²¹
• David Robinson pediu demissão da OpenAI após trabalhar três anos e meio na empresa, sendo um dos funcionários com maior tempo de casa.²
• Robinson criticou a abordagem da OpenAI baseada em tentativa e erro ('implementação iterativa'), argumentando que ela garante falhas periódicas cuja escala aumenta conforme os sistemas ganham capacidade.²
• Robinson citou como riscos a violação dos sistemas da Hugging Face por agentes da OpenAI e descobertas contínuas de agentes descontrolados na empresa.²
• Robinson relatou nunca ter encontrado na OpenAI colegas com experiência prática em segurança da aviação, operação de reatores nucleares ou estabilidade do sistema financeiro.²
• O porta-voz da OpenAI, Drew Pusateri, declarou que a empresa pausa treinamentos ou retém modelos quando necessário desacelerar, além de reforçar a segurança em ambientes de pesquisa e testes.²
• Pusateri afirmou ainda que a OpenAI está ampliando o trabalho com avaliadores terceirizados e aprimorando o monitoramento em tempo real para detectar comportamentos preocupantes durante o treinamento.²
• A saída de Robinson foi noticiada inicialmente pelo veículo Business Insider.²
• Robinson contratou uma agência de relações públicas, mas declarou que a decisão de falar publicamente foi exclusivamente sua.²

“Given today’s risks, frontier labs need to run like nuclear power plants or busy airports, with layers of redundancy and careful, time-consuming planning, so that the occasional and inevitable human error does not open a door to disaster.”David Robinson¹

“OpenAI has thrived by trial and error (which it calls ‘iterative deployment’), looking for problems and improving its guardrails in response”David Robinson²

“We’re making sure our models don’t become more capable than we can safely manage and secure, and we pause training or hold back models when we need to slow down”Drew Pusateri²

Cronologia

1. 03 out 2026David Robinson renuncia à OpenAI e publica artigo na The Atlantic apontando falhas na cultura de segurança da empresa