A OpenAI anunciou em 30 de outubro novas restrições relacionadas à violência no ChatGPT e um compromisso de transparência. O primeiro Community Safety Report está previsto para o início de 2027, cobrindo o segundo semestre de 2026. Depois, a publicação deverá ser semestral. Segundo a companhia, o documento explicará como seus sistemas detectam, investigam e respondem a riscos, trazendo exemplos anonimizados, mudanças de política e dados sobre as salvaguardas. A empresa também informou ter encaminhado mais de 200 casos às autoridades policiais no terceiro trimestre; esse número é uma declaração da fornecedora.
As medidas incluem restringir detalhes sobre ataques em massa passados, independentemente da idade de quem pergunta. A empresa trabalha no encerramento automático de conversas que indiquem fixação em violência e poderá pausar contas após encerramentos repetidos. Para menores de 18 anos, pretende ampliar limites sobre informações práticas de armas e sistemas de segurança. Essas restrições adicionais também alcançarão adolescentes mesmo sem sinais prévios de intenção violenta. A implantação das proteções começará nas próximas semanas, conforme o comunicado, sem uma data única de conclusão.
Em outro anúncio, publicado em 29 de outubro, a OpenAI revisou o Model Spec, descrição pública do comportamento pretendido para seus modelos. O documento foi reorganizado em torno de cinco valores: fidelidade à intenção humana, minimização de danos, honestidade e transparência, autonomia humana e cuidado. A empresa explica que usuários dirigem o trabalho dentro de limites estabelecidos por ela e por desenvolvedores. O modelo deve considerar objetivos e preferências sem conduzir silenciosamente as escolhas da pessoa.
A revisão acrescenta orientações sobre contexto, supervisão e efeitos colaterais das ações. Também atualiza como resolver conflitos entre diferentes instruções. Conversas, memórias e outras evidências devem ajudar a interpretar intenções, enquanto suposições precisam ser visíveis e corrigíveis. A maior parte das instruções detalhadas de estilo foi retirada para permitir adaptação a preferências individuais, idiomas e culturas, preservando padrões como objetividade. A companhia relata explorar métodos de treinamento para ensinar esses princípios e promete divulgar resultados posteriormente. O próprio anúncio ressalva que os modelos ainda não refletem integralmente a especificação, que continuará sendo ajustada conforme pesquisas, uso e comentários recebidos.
Pioneer Building, em São Francisco, que abrigava escritórios da OpenAI na data da foto, 27/07/2019. Obra: Pioneer Building, San Francisco (2019) -1.jpg. Foto: HaeB, CC BY-SA 4.0. Versão com recorte prévio de HaeB; redimensionamento integral com margens e conversão para WebP. Adaptação sob CC BY-SA 4.0.
Fontes
Fontes e referências
As informações foram verificadas nas fontes abaixo. Novos fatos podem atualizar esta notícia.
Conteúdo de Angelo Sebastião Silva Goncalves. Preparado com apoio de IA. Consulte as fontes e os critérios editoriais. Conheça nossos critérios editoriais e como solicitar uma correção.
