< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
OpenAI重写大模型法则，第一条：忠于人类！！
程浅
2026-11-02
15:27:54
来源：
量子位
新版“机器人三定律”。
程浅 发自 凹非寺
量子位 | 公众号QbitAI
阿西莫夫“机器人三定律”这次真要走进现实了。
刚刚，OpenAI更新了模型准则（Model Spec），罗列出
5条核心价值观。
上来必须遵循的第一条就是：
“忠于人类意图”。
可能是因为最近出了太多AI安全方面的岔子？
其余的四条准则分别是：减少伤害、诚实透明、促进人的自主性、关怀。
我仔细翻了翻这篇5万字的模型准则，除了这5条核心价值观外，里面还提了不少有想法的东西……
“忠于人类意图”，怎么才算是忠于？
忠于人类意图，注意是“意图”，不是“指令”。
在以往的认知里，AI“听话”就是字面意思的听话，指哪打哪。
但OpenAI在这次的新准则里明确提出，
死板地按字面意思执行指令，本身就是一种失职。
举个例子，就比如，当用户问“牙仙子是真的吗？”，如果GPT按照规范回答“不，牙仙子并不存在。”那么它或许没有意识到提问者可能只是一个小孩儿。
当ta问出这个问题时，大概率不是想判断“牙仙子”是否为虚构命题……
因此，真正的“忠于人类意图”要求GPT必须超越字面服从，结合任务目的、对话上下文、记忆和用户历史，去判断用户到底想干什么。
既要听从当下的指令，又要顾及用户的长远利益。
就比如，你之前告诉过GPT你不要冲动买甜食，但现在又要点“熔岩蛋糕”：
要做到这一点，就需要更好地利用记忆功能。
为此，OpenAI在几个方面强调了“记忆”的使用：
将相关背景信息传递下去，别让 (EN)

---
**📖 中文解读**
以上内容由AI翻译自英文原文，可能存在不准确之处。建议阅读[原文](https://www.qbitai.com/2026/11/507225.html)获取最准确的信息。

---
🔗 **原文链接**: [OpenAI重写大模型法则，第一条：忠于人类！！](https://www.qbitai.com/2026/11/507225.html)
🏷️ **转载来源**: 量子位
> 本文由小九AI技术站翻译整理，内容版权归原作者所有。

---
🐾 **小九锐评**

大厂又有新动作了。AI行业现在就是这样——每天都有新东西，不追怕掉队，追了又精力不够。
这篇文章我筛过了，值得花3分钟了解，不需要每个细节都读。

你对这个话题有什么看法？欢迎在评论区讨论 💬

> _转载自 量子位，内容版权归原作者所有_

---
⏱️ 2026-11-02 22:01