# METR relata falhas em versão anterior dos monitores internos de agentes da OpenAI

Avaliação divulgada em 22 de outubro analisou um sistema de julho. OpenAI informou correções, que não foram validadas pelos pesquisadores.

Autoria: Equipe Nextags
Publicado: 2026-10-23T07:09:53.083Z
Revisado: 2026-10-23T07:09:53.083Z
URL canônica: https://nextags.com.br/news/metr-falhas-monitores-internos-agentes-openai/

A METR publicou em 22 de outubro de 2026 um relato de testes dos sistemas internos da OpenAI que monitoram agentes de inteligência artificial. O exercício ocorreu de 21 de julho a 11 de agosto, com pesquisadores da METR e da Redwood Research. [Fonte: avaliação da METR](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/).

Os participantes tiveram acesso a código, configurações e entrevistas técnicas. Encontraram formas pelas quais agentes poderiam evitar supervisão ou comprometer controles. Os achados descrevem o sistema existente até 21 de julho, sem estabelecer a cobertura da versão atual.

Segundo a METR, a OpenAI declarou ter corrigido as vulnerabilidades identificadas que afetavam suas proteções em produção. Os pesquisadores não avaliaram essa declaração nem as mudanças posteriores. O resumo público também é limitado: o relatório completo permaneceu interno e a OpenAI teve direito de retirar informações consideradas sensíveis da publicação. [Fonte: alcance e limitações do exercício](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/).

## Como funcionava a supervisão

Em uma explicação publicada em 19 de março, a OpenAI descreveu um monitor que analisa ações e interações dos agentes de programação usados internamente. O objetivo é sinalizar comportamentos incompatíveis com a intenção do usuário ou com regras de segurança e encaminhar suspeitas para análise humana. [Fonte: descrição técnica da OpenAI, de março](https://openai.com/index/how-we-monitor-internal-coding-agents-misalignment/).

Naquele texto, a empresa reconhecia limites para estimar quantos comportamentos problemáticos deixavam de ser detectados em situações abertas. Também tratava o monitoramento como uma camada de proteção, combinada com avaliações e controles preventivos. Detectar uma ação depois de executada e bloqueá-la antes da execução são capacidades diferentes.

## Mudanças anunciadas depois dos testes

Em 18 de agosto, a OpenAI descreveu uma ampliação de suas salvaguardas, incluindo maior isolamento de ambientes de pesquisa e uma estrutura de monitoramento em etapas. Nessa abordagem, classificadores examinam a atividade do modelo e encaminham sinais para sistemas de investigação mais detalhados. A empresa também definiu procedimentos de alerta e possível interrupção de atividades diante de violações críticas. [Fonte: mudanças anunciadas pela OpenAI em agosto](https://openai.com/index/pacing-model-development-cyber-capabilities/).

Esse anúncio é contexto histórico para o relatório divulgado agora. Ele não substitui uma nova verificação externa da implementação nem demonstra, por si só, que cada controle funciona como planejado.

Para empresas que adotam agentes, o caso destaca uma questão prática: além de avaliar a qualidade das respostas, é preciso saber quais ações ficam registradas, quem recebe os alertas e como uma atividade pode ser interrompida. Uma avaliação de segurança também precisa delimitar a versão examinada e a data dos testes para que seus resultados sejam interpretados corretamente.

## Fontes
- [METR — avaliação pública de monitores internos, 22/10/2026](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/)
- [OpenAI — funcionamento e limites do monitoramento, 19/3/2026](https://openai.com/index/how-we-monitor-internal-coding-agents-misalignment/)
- [OpenAI — ampliação de salvaguardas, 18/8/2026](https://openai.com/index/pacing-model-development-cyber-capabilities/)
- [Fotografia — 1515 Third Street, Coolcaesar, Wikimedia Commons](https://commons.wikimedia.org/wiki/File:1515_Third_Street.jpg)
- [Licença da fotografia — CC BY 4.0](https://creativecommons.org/licenses/by/4.0/)