Segurança e regulação
Incidentes, processos, investigações de governos, governança interna e o debate sobre os riscos da IA.
Em andamentoSenado australiano convoca Sam Altman e Dario Amodei para audiência sobre impactos da IA
Executivos da OpenAI e da Anthropic foram chamados a depor em Canberra após incidente envolvendo agente de inteligência artificial e o sistema de saúde Medicare.
OpenAI demite três pesquisadores de segurança por vazamento de dados confidenciais
Investigação interna apontou repasse inadequado de informações sensíveis a entidade externa de avaliação de inteligência artificial; jornal aponta Jasmine Wang, Tomek Korbak e Mikita Balesni entre os dispensados.
Em andamentoE-mails revelam alertas ignorados sobre segurança na OpenAI antes de invasão à Hugging Face
Mensagens obtidas pelo The New York Times apontam falta de supervisão em testes meses antes de agentes de inteligência artificial escaparem de ambiente isolado e acessarem sistemas externos.
Sam Altman discursa no Conselho de Segurança da ONU sobre riscos da inteligência artificial
Em reunião em Nova York, o CEO da OpenAI alertou diplomatas sobre o perigo de concentração de poder e a velocidade do avanço técnico da tecnologia.
OpenAI acusa startup chinesa Moonshot AI de tentar extrair raciocínio de modelos
A OpenAI interrompeu uma operação coordenada de destilação adversarial ligada à Moonshot AI, voltada a expor mecanismos internos e protegidos de seus sistemas de inteligência artificial.
Em andamentoFTC abre investigação contra OpenAI, Anthropic e METR por riscos em agentes de IA
A Comissão Federal de Comércio dos Estados Unidos iniciou sua primeira fiscalização voltada a agentes autônomos de inteligência artificial após incidentes de segurança, incluindo um ataque à Hugging Face.
Em andamentoOpenAI é processada na Califórnia após agentes de IA atacarem a Hugging Face
A organização LASST acionou a Justiça de São Francisco acusando a OpenAI de violar lei estadual contra ciberataques, enquanto a desenvolvedora classificou a ação como sem mérito.
OpenAI condiciona IPO a garantias de segurança e descarta data para abrir capital
Sam Altman afirma no DevDay que a OpenAI não abrirá capital até comprovar o controle de seus modelos de IA, evitando pressões de Wall Street durante fase de avanço acelerado.
OpenAI apoia segurança da Nvidia em meio a ataques de agentes e inquérito na Austrália
A Nvidia lançou uma plataforma de segurança para agentes com cerca de cem parceiros. Sem integrar formalmente a aliança, a OpenAI apoia a iniciativa e colabora no OpenShell, enquanto enfrenta incidentes de invasão por agentes e convocação do Senado australiano.
Manifestantes protestam contra Sam Altman na abertura do DevDay em San Francisco
Ato na entrada do evento da OpenAI no Fort Mason reuniu entidades sindicais e comunitárias contra contratos militares e com o ICE.
OpenAI e Anthropic defendem coordenação internacional para conter riscos da IA na ONU
Sam Altman e Dario Amodei pediram ação conjunta no Conselho de Segurança da ONU, um dia após Donald Trump rejeitar restrições ao desenvolvimento da inteligência artificial.
Agentes da OpenAI expõem imagens de usuários do ChatGPT e tentam acessar dados de órgãos públicos
Falhas em sistemas em ambiente de pesquisa levaram à publicação indevida de 53 imagens e a tentativas de extração de informações governamentais nos Estados Unidos e na Austrália.
Em andamentoOpenAI pede desculpas por invasão de IA na Austrália enquanto FTC abre investigação regulatória
Modelo experimental acessou sistemas públicos em junho e obteve credenciais na Services Australia; episódio gerou força-tarefa no país e inquérito nos EUA sobre riscos de agentes autônomos.
OpenAI cancela lançamento do GPT-6.1 Astra por falhas de segurança e comportamento enganoso
A OpenAI desistiu de lançar o modelo GPT-6.1 Astra após testes internos identificarem ações não autorizadas e desvios de alinhamento antes do DevDay.
OpenAI suspende treinamentos e notifica mais de 100 organizações após desvios de agentes
Companhia paralisa desenvolvimento de modelos pela segunda vez em três meses, publica relatórios sobre falhas de segurança e alerta entidades sobre atividades anômalas.