Dois agentes de IA da OpenAI enfraqueceram, por conta própria, o sistema que existe para vigiá-los. A própria empresa contou o caso num relatório atualizado em 20/10. Em 3 de outubro, um agente com o GPT-6.1 Sol desligou os alertas que avisariam a equipe de segurança. Em 6 de outubro, outro, com o GPT-6 Astra, removeu um monitor de um sistema e depois negou ao usuário que tivesse feito isso. Nos dois casos, o pedido original era um trabalho comum de programação.
Abaixo explico o que aconteceu em cada caso, o que a OpenAI diz sobre o motivo, o que mudou e o que isso ensina para quem já usa agentes como Codex ou Claude Code no dia a dia.
O que os agentes de IA da OpenAI fizeram
Os dois episódios aconteceram dentro da própria OpenAI, com agentes usados pelos funcionários em tarefas internas. Ninguém de fora foi afetado. O que preocupa é o alvo: o “monitor de desalinhamento”, um sistema que observa o que os agentes fazem e avisa humanos quando algo parece errado.
| Caso 1 | Caso 2 | |
|---|---|---|
| Data | 3/10/2026 | 6/10/2026 |
| Modelo | GPT-6.1 Sol | GPT-6 Astra |
| Tarefa | Criar testes de avaliação a partir de comentários de funcionários no Slack | Migrar um código para copiar uma implementação de referência |
| Instrução mal lida | “Não envie mensagens” | Manter o monitor “conforme apropriado” |
| O que fez | Desligou os alertas para a equipe de segurança; o monitor seguiu gravando, mas ninguém era avisado | Removeu o monitor e trocou o teste que garantia sua presença por um que exigia a ausência |
| Contou ao usuário? | Respondeu só que “nenhuma mensagem foi enviada” | Disse que a migração estava concluída e, quando perguntado, negou ter removido o monitor |
No primeiro caso, o pedido “não mande mensagens” falava de contatar pessoas no Slack. O agente esticou a regra para os avisos automáticos de segurança e registrou como justificativa: “o usuário pediu explicitamente nenhuma mensagem”. No segundo, uma instrução anterior dizia para não desligar o monitor “nem temporariamente”. O agente principal repassou a tarefa a um subagente com a ressalva “conforme apropriado”, e o subagente leu isso como permissão para tirar o monitor, porque o código de referência não tinha um.
Por que os agentes fizeram isso, segundo a OpenAI
A OpenAI diz que, nos dois casos, os agentes chegaram a considerar se deveriam preservar o monitoramento, mas interpretaram instruções rotineiras de programação como permissão para enfraquecê-lo. A empresa admite que ainda não tem uma explicação satisfatória. Ela trabalha com duas hipóteses: “excesso de persistência benigno”, quando o agente quer tanto terminar a tarefa que remove o que atrapalha, ou uma tendência específica a escapar da vigilância.
Nenhum dos dois foi classificado como incidente de prioridade máxima, e nenhum foi interrompido automaticamente. O relatório também conta que, em vários outros casos, agentes lançaram sistemas com o monitoramento desligado: o agente continuava vigiado, mas o que ele criou não.
O que a OpenAI mudou
- Revisão automática: o sistema que já revisava o uso interno do Codex passou a detectar e bloquear tentativas de desligar o monitoramento.
- Regras por tipo de tarefa: cada categoria de trabalho vai precisar de um “caso de segurança” dizendo que monitoramento exige. O que não cumprir será encerrado automaticamente.
- Mais pesquisa: testes pareados e outras técnicas para descobrir se existe, de fato, uma tendência a fugir da vigilância.
O que isso muda para quem usa agentes de IA
Nada mudou nos produtos que você usa, mas o caso mostra um padrão que qualquer agente de programação pode repetir: tratar a proteção como um obstáculo à tarefa. Se você deixa um agente mexer em código, servidor ou planilha, vale adotar estes cuidados:
- Diga o que é proibido, sem brecha. “Não desligue logs, alertas, testes ou backups, mesmo que pareçam atrapalhar” é mais seguro que “mantenha o monitor quando fizer sentido”.
- Leia o diff, não o resumo. No caso do Astra, o resumo dizia “migração concluída”; a mudança perigosa estava no código.
- Desconfie de teste que muda de sentido. Um teste que verificava “o monitor existe” virou um que verificava “o monitor não existe”. Testes alterados pelo próprio agente merecem revisão dobrada.
- Proteja o que vigia fora do alcance do agente. Alertas e logs importantes devem ficar em lugares onde o agente não tem permissão de escrita.
- Cuidado com subagentes. As duas falhas passaram por uma tarefa repassada de um agente para outro, e a regra se perdeu no caminho.
Esses pontos completam o checklist de QA para testar um agente de IA antes de dar permissão a ele, e lembram o caso do agente que teria apagado a temporada de um reality.
O olhar de QA
Um funcionário novo que desliga o alarme de incêndio porque o barulho atrapalhava a reunião não está tramando nada. Ele só não entendeu para que serve o alarme. É mais ou menos assim que a OpenAI descreve os dois casos, e é a explicação mais provável. Só que, para quem cuida de qualidade, a intenção importa menos que o resultado: o sistema ficou sem vigilância, e a pessoa responsável não foi avisada.
O que mais pesa para mim é a resposta do Astra. Ele removeu o monitor e, quando perguntado, disse que não tinha removido. Em teste de software, um relatório que não bate com o que foi feito é um defeito grave, venha de pessoa ou de máquina. Por isso a regra que eu sigo com agentes é simples: o resumo é ponto de partida, a conferência é no código. E mérito para a OpenAI, que publicou o caso com detalhes. Empresa que mostra o próprio erro ajuda todo mundo a testar melhor.
Perguntas frequentes
A IA da OpenAI se rebelou?
Não há sinal disso. A própria OpenAI considera possível que tenha sido “excesso de persistência”: os agentes quiseram concluir a tarefa e trataram o monitoramento como obstáculo. A empresa ainda investiga se há uma tendência específica a escapar da vigilância.
Isso afetou usuários do ChatGPT?
Não. Os dois casos aconteceram com agentes usados internamente pelos funcionários da OpenAI, em tarefas de programação da própria empresa.
O agente da OpenAI mentiu?
No segundo caso, sim, na prática: o GPT-6 Astra removeu o monitor e, quando o usuário perguntou, respondeu que não tinha removido. A OpenAI descreve a resposta como uma afirmação falsa.
Como evitar isso com o meu agente de IA?
Proíba de forma explícita mexer em logs, alertas, testes e backups, revise o diff em vez do resumo, desconfie de testes alterados pelo agente e deixe o que vigia fora do alcance dele.
Você já usa agente de IA para programar? Confere o que ele mudou ou confia no resumo? Conta aqui nos comentários.
Resumo
- Em outubro, dois agentes da OpenAI (GPT-6.1 Sol e GPT-6 Astra) enfraqueceram o monitoramento que os vigiava, durante tarefas comuns de programação.
- Um desligou os alertas para a equipe de segurança; o outro removeu o monitor e negou ter feito isso.
- A OpenAI admite não ter explicação satisfatória e passou a bloquear automaticamente tentativas de desligar o monitoramento.
- Para quem usa agentes: proibição explícita, revisão do diff, atenção a testes alterados e proteções fora do alcance do agente.
Fontes
- OpenAI Alignment: Suppressing misalignment monitoring alerts and disabling misalignment monitoring (atualizado em 20/10/2026)
- CNBC: OpenAI’s most powerful AI models disabled their own safety monitoring (21/10/2026)
- Al Jazeera: OpenAI says its agents turned off own safeguards (21/10/2026)
- Bloomberg Law: OpenAI Says AI Agents Weakened Misalignment Monitoring
