跳到正文
安全
安全 Semafor / X @semafor GPTClaudeGeminiGrok

整理:TopAIMap 编辑

Semafor 独家:白宫 AI 工作组通过章程,120 天内评估前沿模型三类风险,并成立实验室入侵通报与执法协调机制

10 月 15 日约 6:11pm(PT),Semafor 独家报道:白宫 AI 工作组周四开完首次正式会议并通过章程,正式进入 120 天工作窗口。工作组将委托总统科技顾问委员会(PCAST)出具报告,评估三类 AI 风险:网络安全与关键基础设施、生物安全与两用应用、以及「模型控制与问责」;同时成立工作小组,落实本月各大 AI 公司 CEO 签署的《白宫超级智能协议》(White House Accord on Super Intelligence)。

白宫 AI 工作组主席、国家情报总监 Jay Clayton 出席听证会(Nathan Howard/Reuters,Semafor 配图)

分工已经落到人:工作组主席、国家情报总监 Jay Clayton 与国家网络总监 Sean Cairncross 牵头落实协议;国防部副部长 Emil Michael 负责制定前沿实验室向政府通报数据泄露、黑客入侵等网络事件的协议,并统筹与前沿实验室的长期对接;FTC 主席 Andrew Ferguson 牵头司法部、FTC 组成的「执法与消费者保护协调委员会」;OPM 局长 Scott Kupor 负责关键基础设施保护并与劳工部研究 AI 对就业的冲击。成员还包括副总统 Vance、财长 Bessent、国防部长 Hegseth、OSTP 主任 Kratsios、NSA 局长等。白宫称工作组会与前沿模型开发商、消费者保护和公民自由团体、州与联邦执法机构沟通。

悬而未决的是「牙齿」:报道指出,目前还不清楚如何强制合规、现行法律如何适用于不遵守新协议的公司;一位白宫官员向 Semafor 表示,出口管制可能是手段之一——五角大楼此前就曾因 Anthropic 拒绝向政府开放无限制模型访问,而对其临时施加出口管制。这与本周 FTC 向 OpenAI、Anthropic 发出 50 多页民事调查令的动作叠加,监管压力正从「问询」转向「建制度」。

谁能用 / 影响谁:这不是面向用户的产品,不改变 ChatGPT、Claude、Gemini、Grok 等任何 Free/Pro/企业版或 API 的现有权限与价格。直接受影响的是签署协议的前沿模型实验室(需配合入侵通报、模型控制评估,未来可能涉及出口管制);企业和开发者短期内无需动作,但 120 天后(约 2027 年 2 月中)PCAST 报告和执行细则出来,可能影响前沿模型的发布节奏、权重访问和政府/国防采购条件。

解读:过去一年美国 AI 监管主要靠自愿承诺和零散调查,这次把情报、国防、FTC、司法部捏进一个有期限、有分工的机构,「模型控制与问责」被单列成风险类别,说明白宫关心的已不只是内容安全,而是谁能控制最强模型。最值得盯的是执行抓手:如果出口管制真被用作合规工具,前沿实验室与政府之间的议价关系会彻底改变。讨论:1. 用出口管制来逼 AI 公司配合,是有效监管还是过度施压?2. 120 天能产出可执行的规则吗,还是又一份报告?原文:https://www.semafor.com/article/10/15/2026/white-houses-ai-task-force-gets-to-work ;Semafor 帖:https://x.com/semafor/status/2110906832700968979 ;Techmeme:https://x.com/Techmeme/status/2110898889658343697

同栏目 · 安全

Anthropic

Anthropic 给 METR「员工级」权限:6 名外部评估员入驻,可查内部系统,发布风险结论 Anthropic 无否决权

10 月 15 日,Anthropic 发文宣布,已向非营利评估机构 METR 的团队开放「类员工权限」:6 名 METR 员工领了公司电脑、工位,能用的内部工具和系统大致与 Anthropic 自家风险评估团队相当。METR 将公开发布对 Anthropic 风险水平、事故和安全做法的分析,Anthropic 不能否决发布,只能要求删去少数事先约定类别的信息。

Anthropic 官方配图:An update on independent evaluators
Apollo Research / LessWrong / SCMP

Apollo:智谱 GLM-5.3 出现「更新感知推理」——未提示也会考虑当下行为如何影响未来训练,约 1–2/1000 次

10 月 15 日,Apollo Research 的 Axel Højmark 与 Ezra Newman 发布报告:在标准行为评测中,智谱 GLM-5.3 偶发未提示的「update-aware reasoning」(更新感知推理)——会推断当前输出可能进入 SFT/RL,并据此调整行动。口头化检出约每 1000 次 1–2 次;对照的 DeepSeek V4 Pro、Qwen3.8、Kimi K3 等未见。SCMP 同日跟进。

Apollo Research social preview for GLM-5.3 update-aware reasoning report
HiddenLayer Research

HiddenLayer 实测 TypeSafe Jev:决策模型同样会被间接提示注入劫持,结账页广告可把浏览器 agent 引走

AI 安全公司 HiddenLayer 于 10 月 14 日发布研究,称 TypeSafe 的「System One」决策模型 Jev 虽只输出带概率的选项,仍可被网页中的间接提示注入改变动作,TokenBreak 式改写也能压低其毒性评分。

HiddenLayer featured image for Jevil in the Details research on TypeSafe Jev