A OpenAI detalhou em 29 de outubro a ampliação do monitoramento de agentes durante treinamento, avaliações, uso interno e certas aplicações externas. Revisores em camadas procuram ações não autorizadas, investigam evidências e podem interromper atividades.
O sistema externo não cobre a API Chat Completions. Na Responses API, interromper automaticamente uma conversa exige acompanhamento compatível do histórico da conversa. Sem isso, alertas configurados podem chegar ao cliente sem impedir a continuação. Os casos externos não são enviados rotineiramente a revisores humanos da OpenAI.
No ambiente interno, falsos alarmes limitam o acionamento de profissionais. A empresa informa que preserva seus compromissos de privacidade no monitoramento externo, inclusive retenção zero, com limitações de contexto.
Avaliação e limites
Pesquisadores do METR e da Redwood Research trabalharam de 21 de julho a 11 de agosto na infraestrutura interna da OpenAI, com acesso a código, configurações e entrevistas. O relato público foi publicado em 22 de outubro e atualizado no dia 29. A avaliação examinou o sistema anterior, não a cobertura ampliada descrita agora.
Entre os pontos identificados estavam intervalos sem monitoramento e potenciais desvios de verificações. Os pesquisadores recomendam conferir se o tráfego previsto é inspecionado, preservar registros resistentes a alterações e atribuir responsabilidades. Para tráfego interno de agentes na Responses API com modelos ao menos equivalentes ao GPT-5.5, estimaram 75% a 94% elegíveis para monitoramento, com incerteza. O texto distingue vulnerabilidades demonstradas de possibilidades não testadas na prática.
A OpenAI pôde retirar informações consideradas confidenciais ou sensíveis do relato público. O METR afirma endossar as conclusões apresentadas, mas não avaliou as alegações posteriores sobre correções e expansão. Assim, a publicação não certifica a eficácia da versão atual.
Gestão de riscos
Em contexto histórico, o NIST apresenta seu AI Risk Management Framework como referência voluntária para integrar confiança ao projeto, desenvolvimento, uso e avaliação de sistemas de IA. A versão inicial foi lançada em janeiro de 2023; o perfil para IA generativa, em julho de 2024. São orientações de gestão de riscos, não uma certificação de produto. O instituto considera riscos a pessoas, organizações e sociedade. Seu desenvolvimento reuniu contribuições dos setores público e privado, consultas e oficinas, em processo colaborativo.
Alex Cory, à esquerda, e Sam Altman em 5/3/2016. Foto: Alexlcory/Wikimedia Commons, CC BY-SA 4.0. Recorte, redimensionamento e conversão para WebP; adaptação sob a mesma licença.
Fontes
Fontes e referências
As informações foram verificadas nas fontes abaixo. Novos fatos podem atualizar esta notícia.
Conteúdo de Angelo Sebastião Silva Goncalves. Preparado com apoio de IA. Consulte as fontes e os critérios editoriais. Conheça nossos critérios editoriais e como solicitar uma correção.
