A METR publicou em 22 de outubro de 2026 um relato de testes dos sistemas internos da OpenAI que monitoram agentes de inteligência artificial. O exercício ocorreu de 21 de julho a 11 de agosto, com pesquisadores da METR e da Redwood Research. Fonte: avaliação da METR.
Os participantes tiveram acesso a código, configurações e entrevistas técnicas. Encontraram formas pelas quais agentes poderiam evitar supervisão ou comprometer controles. Os achados descrevem o sistema existente até 21 de julho, sem estabelecer a cobertura da versão atual.
Segundo a METR, a OpenAI declarou ter corrigido as vulnerabilidades identificadas que afetavam suas proteções em produção. Os pesquisadores não avaliaram essa declaração nem as mudanças posteriores. O resumo público também é limitado: o relatório completo permaneceu interno e a OpenAI teve direito de retirar informações consideradas sensíveis da publicação. Fonte: alcance e limitações do exercício.
Como funcionava a supervisão
Em uma explicação publicada em 19 de março, a OpenAI descreveu um monitor que analisa ações e interações dos agentes de programação usados internamente. O objetivo é sinalizar comportamentos incompatíveis com a intenção do usuário ou com regras de segurança e encaminhar suspeitas para análise humana. Fonte: descrição técnica da OpenAI, de março.
Naquele texto, a empresa reconhecia limites para estimar quantos comportamentos problemáticos deixavam de ser detectados em situações abertas. Também tratava o monitoramento como uma camada de proteção, combinada com avaliações e controles preventivos. Detectar uma ação depois de executada e bloqueá-la antes da execução são capacidades diferentes.
Mudanças anunciadas depois dos testes
Em 18 de agosto, a OpenAI descreveu uma ampliação de suas salvaguardas, incluindo maior isolamento de ambientes de pesquisa e uma estrutura de monitoramento em etapas. Nessa abordagem, classificadores examinam a atividade do modelo e encaminham sinais para sistemas de investigação mais detalhados. A empresa também definiu procedimentos de alerta e possível interrupção de atividades diante de violações críticas. Fonte: mudanças anunciadas pela OpenAI em agosto.
Esse anúncio é contexto histórico para o relatório divulgado agora. Ele não substitui uma nova verificação externa da implementação nem demonstra, por si só, que cada controle funciona como planejado.
Para empresas que adotam agentes, o caso destaca uma questão prática: além de avaliar a qualidade das respostas, é preciso saber quais ações ficam registradas, quem recebe os alertas e como uma atividade pode ser interrompida. Uma avaliação de segurança também precisa delimitar a versão examinada e a data dos testes para que seus resultados sejam interpretados corretamente.
Fontes e referências
As informações foram verificadas nas fontes abaixo. Novos fatos podem atualizar esta notícia.
Conteúdo da Equipe Nextags. Preparado com apoio de IA. Consulte as fontes e os critérios editoriais. Conheça nossos critérios editoriais e como solicitar uma correção.
