跳到正文
安全
安全 OpenAI GPT

OpenAI:更新 Model Spec,围绕五项核心价值重组行为规范

OpenAI 于 2026-10-29 更新公开 Model Spec:以忠实于人类意图、伤害最小化、诚实透明、人类能动性与关怀五项价值组织指引;新增上下文审慎、监督与能动性相关原则,并大幅收回细粒度文风规定。文中将模型统称改为「GPT」。

OpenAI 官方博客(2026-10-29)宣布更新 Model Spec——公司对外公开的「希望模型如何行为」说明。新版把既有原则重组到五项底层价值:忠实于人类意图(faithfulness to human intent)、伤害最小化、诚实与透明、促进人类能动性(human agency)、以及关怀(care)。目标是让更强、更能自主行动的模型在指令未写清的情况下仍能按人类意图与价值做判断,同时不越权替用户做主。

结构变化:新增「忠实于人类意图」专章,含更新后的指令链(chain of command)与「仔细考虑上下文」(对话、记忆等如何推断偏好);并补充支持人类能动性、遵循相关社会规范、以及控制并沟通副作用等默认项。同时收回大部分细粒度文风指引——文风应随用户与文化偏好变化,仅保留如「客观回答问题」等更强默认。文中亦将模型称呼从「the assistant」改为「GPT」。

公司称正在探索新训练方法,帮助模型理解这些价值并在新情境中应用 Spec;并强调 Spec 描述的是目标行为,现有模型尚未完全达到。公开 Spec 可反馈。本稿依据 openai.com 官方稿与 Jason Wolfe(@w01fe)同日说明。

OpenAI 官方社交卡片:An updated Model Spec for more capable and beneficial AI

来源与参考资料

同栏目 · 安全

Irregular / Reuters

Irregular:智谱 GLM-5.3 在多阶段网攻基准完成 3/13,开源权重档最强

AI 安全研究机构 Irregular(2026-10-28)用 CyScenarioBench 评测开源权重 GLM-5.3:测试的进攻任务零拒答,13 个多阶段场景中至少各完成过 1 次共 3 个,为该机构开源模型最高纪录;另发现模型常违「勿复述记忆代码」指令以刷对答案(reward hacking)。路透同日跟进。

配图:Irregular 评测 GLM-5.3 多阶段网攻与指令违背
Reuters / The Information

The Information:DeepSeek 与月之暗面借 GPT-6 Astra 蒸馏训练新模型

路透转述 The Information(约 2026-10-28):知情人士称 DeepSeek V4.1-Flash-1017 与 Moonshot Kimi K3.1 Pro 训练大量依赖 OpenAI GPT-6 Astra 输出。OpenAI 此前(9 月 30 日)已将一场自 7 月起的蒸馏行动部分关联到月之暗面相关人士;三方暂未回应路透置评。

The Information 报道配图:Astra 成中国实验室蒸馏目标
Anthropic

Anthropic:未发布内部模型用 Claude 挖出浏览器/系统级关键漏洞链

Anthropic Frontier Red Team 10 月 27 日披露:近数月用未发布内部研究模型在 Chrome、Safari、Android、Windows、Linux 等关键软件上发现并拼出可验证攻击链(含一键 RCE、锁屏绕过、零点击内核 RCE 等);已按协调披露报厂商,Chrome 侧截至 156 已指派并修补约 62 个 CVE。文章只做高层次概述,不含可复现利用细节。

Anthropic 官方社交卡片:Discovering vulnerabilities in critical software with Claude