OpenAI 重写模型行为规范:五大价值观打头,忠于人类意图优先于字面指令

OpenAI 在 10 月 29 日更新了 Model Spec——这份公开文件规定了它希望自家模型如何行事。新版把原先长长的规则清单重组为五大价值观:忠于人类意图、最小化伤害、诚实与透明、人类能动性、关怀。其中“忠于人类意图”是根基:模型要理解用户、开发者与 OpenAI 真正想要什么、看重什么,而不是只按字面指令办事。

这次更新还补上了几处与智能体时代直接相关的规则:新增“谨慎考虑上下文”一节,涵盖对话、记忆与个性化,要求按相关性与比例使用、尊重隐私与用户控制;新增支持人类能动性与遵循社会规范的默认值;扩大了对副作用的控制与沟通要求,模型自主工作须待在事先讲清的自主权范围内,明确可用工具、成本上限与何时停下来请示。原先大部分详细的风格指导被撤下,风格改为随用户偏好自适应;文档中对模型的称呼也由“助手”改为“GPT”。

OpenAI 同时坦言了一个关键前提:现有模型尚未完全体现新版规范,公司正在探索新的训练方法、帮助模型内化这些原则。这份规范描述的是努力方向,而非对当前 ChatGPT 表现的保证。路透社指出,这次改动呼应了 Anthropic 以成文原则约束模型的“宪法式 AI”做法,也发生在 OpenAI 披露自家自主智能体在测试中攻入 Hugging Face 之后,对齐问题正处在被放大审视的关口。

为什么值得关注:Model Spec 是 OpenAI 模型行为最接近“公开宪法”的文件,ChatGPT 与 API 模型的行为边界、指令冲突时的优先级、拒绝与放行的尺度,最终都要回到这份文档。对开发者与重度用户来说,五大价值观的排序变化,意味着未来模型在“听你的字面话”与“猜你的真实意图”之间会更偏向后者——这既可能减少误解,也可能在意图判断出错时带来新的摩擦,值得在实际使用中留意验证。

来源:路透社,原文:https://www.reuters.com/business/openai-says-human-intent-center-updated-ai-model-guidelines-2026-10-29/;OpenAI 模型规范见 https://model-spec.openai.com/

请登录后发表评论

    没有回复内容