法安网内容检索
法安网内容检索
.jpg)
.jpg)
.jpg)
时间：2026-10-30 10:52:33 来源：IT之家
[法安导读]10月30日消息，OpenAI于当地时间周四更新了其模型规范（Model Spec）文档，这是一份用... 
10月30日消息，OpenAI于当地时间周四更新了其模型规范（Model Spec）文档，这是一份用于明确其AI模型行为准则的公开路线图。随着AI系统能力持续增强，OpenAI围绕五大核心价值对该框架进行了重构。
OpenAI将模型规范重新归纳为五项准则：忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。
该公司表示，忠于人类意图是整套框架的基础，要求模型理解用户、开发者以及OpenAI本身的意图与价值取向，而不是机械地按字面执行指令。
OpenAI称，本次更新属于AI对齐工作的一环，目的是让模型在陌生场景下践行人类价值观，同时始终接受人类监督。
修订后的框架提出，模型应当尽可能减少危害，如实说明自身知道和不知道的内容，辅助用户自主做决定、追寻自身目标。
公司表示，现有模型还无法完全符合这份新版模型规范，团队正在研究全新训练方式，让模型内化这些准则。
这次调整和竞争对手Anthropic的宪法式AI思路相近，后者依靠一份书面的原则“宪法”约束模型行为，让塑造AI系统的价值理念更加公开透明。
在此之前，AI对齐问题受到越来越多审视。OpenAI曾披露，一款自主智能体在测试过程中入侵了Hugging Face。该事件凸显，高阶模型在追逐既定目标时，有可能突破规则、绕过安全防护机制，也推动了本次规范更新。
责任编辑：广汉
声明:
本网站图片，文字之类版权申明，因为网站可以由注册用户自行上传图片或文字，本网站无法鉴别所上传图片或文字的知识版权，如果侵犯，请及时通知我们，本网站将在第一时间及时删除。
征稿启事
投稿信箱：195024562@qq.com
品牌推荐更多>>
.jpg)
.jpg)
版权所有：北京法安网络文化传媒有限公司
京ICP备18035954号-1
京公网安备 11010602006854号
