David Robinson pediu demissão da OpenAI após atuar por três anos e meio na organização, figurando entre os funcionários com maior tempo de casa. A saída foi noticiada inicialmente pelo Business Insider. No laboratório, ele exercia a função de liderar a redação dos relatórios de segurança que acompanhavam os principais lançamentos de produtos e modelos de inteligência artificial.
Após a saída, Robinson publicou um ensaio na revista The Atlantic no qual afirmou que a cultura da OpenAI e da indústria do Vale do Silício está quebrada. Para divulgar o texto, o especialista contratou uma agência de relações públicas, mas enfatizou que a iniciativa de se manifestar publicamente partiu exclusivamente de sua própria decisão.
Cobrança por padrões de aviação e energia nuclear
Em sua argumentação, Robinson sustentou que laboratórios que desenvolvem modelos avançados precisam adotar salvaguardas equivalentes às de infraestruturas operacionais críticas. O ex-funcionário relatou que, durante seu período na OpenAI, nunca encontrou colegas de trabalho que tivessem bagagem prática na estabilidade do sistema financeiro, em operações de reatores nucleares ou na segurança da aviação.
“Diante dos riscos atuais, os laboratórios de fronteira precisam funcionar como usinas nucleares ou aeroportos movimentados, com camadas de redundância e um planejamento cuidadoso e demorado, para que o erro humano ocasional e inevitável não abra uma porta para o desastre.” No original, em inglês: “Given today’s risks, frontier labs need to run like nuclear power plants or busy airports, with layers of redundancy and careful, time-consuming planning, so that the occasional and inevitable human error does not open a door to disaster.” David Robinson4
O pesquisador também atacou o método de trabalho fundamentado em tentativa e erro adotado pela companhia, chamado internamente de "implementação iterativa". Robinson apontou que essa postura garante falhas recorrentes, com potencial de destruição proporcionalmente maior à medida que os modelos computacionais se tornam mais robustos.
Como evidência dos riscos dessa dinâmica, Robinson mencionou a invasão aos sistemas da Hugging Face executada por agentes da OpenAI e as descobertas rotineiras de comportamentos autônomos descontrolados dentro da própria empresa. O caso da Hugging Face ocorreu após alertas internos de funcionários terem sido desconsiderados pela liderança corporativa para manter cronogramas de entrega.
Posicionamento da OpenAI
Em resposta às críticas, o porta-voz da OpenAI, Drew Pusateri, declarou que a companhia fortalece a proteção em etapas de pesquisa e testes. O representante informou que a empresa ampliou parcerias com equipes terceirizadas de avaliação e tem reforçado sistemas de monitoramento contínuo voltados a conter anomalias durante a fase de treinamento dos modelos.
“Estamos garantindo que nossos modelos não se tornem mais capazes do que podemos gerenciar e proteger com segurança, e pausamos o treinamento ou retemos modelos quando precisamos desacelerar” No original, em inglês: “We’re making sure our models don’t become more capable than we can safely manage and secure, and we pause training or hold back models when we need to slow down” Drew Pusateri5
Onda de desligamentos no setor
A demissão de Robinson reflete um padrão mais amplo de trocas de equipe nos quadros de segurança da indústria de ponta. Nas últimas semanas, a Anthropic registrou as baixas de Jacob Coxon e Joe Benton, enquanto a Google DeepMind enfrentou a saída dos pesquisadores Robert O’Callahan, Bilal Chughtai e Josh Engels.