A Microsoft destacou supervisão humana, segurança e capacitação no Microsoft Frontier Tour London, realizado em 21 de outubro de 2026. Em relato publicado em 23 de outubro, a empresa apresenta a adoção de agentes de IA como uma mudança que exige controle sobre informações e ações.
Satya Nadella e Darren Hardman defenderam que as pessoas mantenham a decisão sobre ações importantes. Entre os casos citados, a Network Rail desenvolve agentes com Microsoft Copilot Studio para apoiar atividades relacionadas à sua frota e à segurança do trabalho.
A empresa também relata uso de IA pela AA para ajudar equipes de assistência rodoviária a encontrar informações técnicas. Os exemplos são apresentados pela própria Microsoft.
Uma referência para organizar os riscos
Como contexto para esse debate, o Instituto Nacional de Padrões e Tecnologia dos EUA, o NIST, mantém o AI Risk Management Framework. Publicado em 26 de janeiro de 2023, o referencial é de adoção voluntária e busca incorporar aspectos de confiabilidade ao desenho, desenvolvimento, uso e avaliação de sistemas de IA.
O instituto informa que a estrutura foi construída com participação dos setores público e privado, consultas e oficinas. Também reúne materiais de apoio para sua aplicação e alinhamento com outras iniciativas de gestão de riscos.
Em julho de 2024, o NIST publicou um perfil voltado à IA generativa, com ações que podem ser adaptadas aos objetivos e às prioridades de cada organização. A página informa que a versão 1.0 do referencial está em revisão.
O que essa discussão muda para uma equipe
Na avaliação editorial da Nextags, uma empresa que pretende adotar agentes pode começar pelo desenho de um fluxo concreto: quais informações entram, qual resultado é esperado e quem responde pela decisão final. Isso ajuda a transformar a discussão sobre confiança em responsabilidades verificáveis.
Para uma equipe comercial ou de marketing, a revisão pode identificar as fontes de dados permitidas, as ações liberadas e as situações que exigem aprovação de uma pessoa. O responsável pelo processo também deve definir quem pode revisar as configurações e como interromper uma execução.
Uma experiência inicial com escopo definido permite acompanhar tempo de atendimento, necessidade de correções e qualidade das respostas. Registrar os resultados ajuda a decidir se o fluxo está pronto para receber mais usuários. A capacitação da equipe completa esse trabalho ao esclarecer como conferir uma saída, contestar uma decisão e encaminhar uma exceção.
Fontes e referências
As informações foram verificadas nas fontes abaixo. Novos fatos podem atualizar esta notícia.
Conteúdo de Angelo Sebastião Silva Goncalves. Preparado com apoio de IA. Consulte as fontes e os critérios editoriais. Conheça nossos critérios editoriais e como solicitar uma correção.
