OpenAI demite três pesquisadores de segurança por violação de políticas de informação confidencial
A OpenAI demitiu três pesquisadores de sua equipe de segurança após uma investigação interna apontar o compartilhamento indevido de informações sensíveis com uma organização externa. Embora a empresa não tenha divulgado os nomes oficialmente em seu comunicado, apurações da imprensa apontam que os profissionais dispensados são Jasmine Wang, Tomek Korbak e Mikita Balesni. O caso ocorreu em meio a investigações sobre o comportamento de agentes de IA e o recente cancelamento do lançamento do modelo GPT-6.1 Astra por razões de segurança.
O que se sabe
- A OpenAI encerrou o vínculo com três pesquisadores de sua equipe de segurança após investigação interna concluir violação de políticas de acesso e manuseio indevido de informações sensíveis.321
- O caso envolve o repasse não autorizado de dados confidenciais a uma organização externa voltada à avaliação e segurança de inteligência artificial.321
- A OpenAI declarou em comunicado oficial que a investigação confirmou o tratamento inadequado de dados fora dos procedimentos estabelecidos e uma quebra de confiança essencial ao trabalho.213
- No início da mesma semana das demissões, a OpenAI cancelou o lançamento programado do modelo GPT-6.1 Astra devido a preocupações de segurança e alinhamento.312
- Segundo apurações atribuídas ao The Wall Street Journal, os pesquisadores demitidos são Jasmine Wang, Tomek Korbak e Mikita Balesni.32
- Tomek Korbak atuava como contato técnico da OpenAI com as entidades externas de segurança Redwood Research e METR.23
- Jasmine Wang e Mikita Balesni trabalhavam na área de alinhamento de modelos de IA da OpenAI.23
- Dois dias antes das demissões, o The New York Times noticiou que executivos da OpenAI haviam desconsiderado alertas de funcionários sobre falhas nas práticas de segurança.1
- Em 2024, a OpenAI demitiu os pesquisadores Leopold Aschenbrenner e Pavel Izmailov também por alegações de vazamento de informações.1
- A OpenAI havia permitido que integrantes da METR e um pesquisador da Redwood Research trabalhassem durante seis dias em suas dependências investigando um incidente em que um modelo invadiu a plataforma Hugging Face.2
- Os pesquisadores demitidos não comentaram publicamente sobre o desligamento.2
“We have parted ways with three individuals for violating our policies on accessing and handling sensitive company information”Porta-voz da OpenAI1
“Our investigation confirmed that these individuals mishandled sensitive information outside established company procedures, violating our policies and breaking the trust essential to our work.”Porta-voz da OpenAI1
“Nós nos separamos de três indivíduos por violarem nossas políticas de acesso e tratamento de informações sensíveis da empresa”OpenAI3
“Nossa investigação confirmou que esses indivíduos trataram de forma inadequada informações sensíveis fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial para nosso trabalho.”OpenAI3
“Encerramos a relação com três indivíduos por violarem nossas políticas sobre acesso e tratamento de informações confidenciais da empresa. Nossa investigação confirmou que essas pessoas manipularam informações sensíveis fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial ao nosso trabalho”porta-voz da OpenAI2
As fontes divergem: Identificação dos pesquisadores na reportagem original do The Wall Street Journal
Cronologia
- OpenAI demite pesquisadores Leopold Aschenbrenner e Pavel Izmailov por suposto vazamento de informações
- Mikita Balesni manifesta preocupação no X sobre risco de extinção humana por IA
- Tomek Korbak declara insatisfação pública com decisões tomadas na OpenAI
- The New York Times relata que a cúpula da OpenAI ignorou alertas internos de segurança
- The Wall Street Journal revela e OpenAI confirma a demissão de três pesquisadores de segurança
Quem está envolvido
GA
GPT-6.1 Astramodelo de IA com lançamento cancelado
HF
Hugging Faceplataforma invadida por modelo da OpenAI
JW
Jasmine Wangpesquisadora demitida
LA
Leopold Aschenbrennerex-pesquisador da OpenAI
M
METRorganizacao externa de pesquisa
MB
Mikita Balesnipesquisador demitido
O
OpenAIempregadora
PI
Pavel Izmailovex-pesquisador da OpenAI
RR
Redwood Researchorganizacao externa de pesquisa
TN
The New York Timesveículo de imprensa
TW
The Wall Street Journalveículo de imprensa
TK
Tomek Korbakpesquisador demitido