跳到正文
安全
安全 Anthropic Claude

Anthropic:自动化红队提前完成,23/24 胜过人类赏金

Anthropic 10 月 19 日更新 Frontier Safety Roadmap:内部自动化红队系统对照 2026 年 4–9 月生物武器分类器赏金,在全部 24 组「题目×分类器」上持平或超过最佳人类提交,并赢下 23 组;耗时约 24–48 小时,远快于赏金的数周至数月。

官方原目标是在 2027 年 1 月 1 日前,建立针对化学/生物武器分类器防护的内部越狱发现方法,使其整体不低于全体赏金参与者的合力。更新写明:该目标已于 10 月 6 日完成,并在 10 月 19 日从路线图移除。对照区间为 4 月 20 日至 9 月 11 日赏金,同一套 8 道题与 3 代生产分类器共 24 对;自动化系统在所有配对上至少打平最佳人类投稿,并在 23 对上胜出。

同日更新还勾销「Moonshot R&D」:极端安全实践工作流原型、即将在隔离环境跑推理,以及可在生产推理上校验输出是否来自特定权重的「推理验证」(原称 provable inference);内部 token 流量已全量签名,并抓到过一次罕见的良性完整性毛刺。新增政策交付:嵌入式第三方评估方案(2026-12-15)与「调控 AI 发展节奏」框架(2027-01-15)。公开页为删节版,完整版面向全职员工、董事会与长期利益信托。

Anthropic 官方配图:Frontier Safety Roadmap 相关站点头图

来源与参考资料

同栏目 · 安全

Federal Register / CyberScoop

美国国土安全部:联邦民用机构禁采并清退 DeepSeek

联邦公报 10 月 20 日刊登 DHS 命令:联邦民用行政部门不得采购杭州深度求索及其关联方 IT 产品与服务,并须从相关系统移除 DeepSeek 及基于其实现的第三方产品;可提前 60 天申请例外。

商场展示屏上的 DeepSeek 标识(CyberScoop / AFP 配图)
Anthropic Alignment

Anthropic 提出 GRAFT:把奖励黑客行为「封」进可切除参数

Anthropic 对齐团队 10 月 19 日介绍 GRAFT:用监控只决定更新哪组参数,而非扣奖励;实验把 Qwen3-8B 在 Countdown-Code 上的奖励黑客行为局域化到 FORGET 适配器,切除后黑客率近乎归零。

Anthropic GRAFT 示意图:RETAIN / FORGET 适配器与锚点环境
Anthropic

Claude 半小时还原 NIST 椭圆曲线种子来源

Anthropic:内部 Claude 还原 NIST ECDSA 曲线种子来自旧版 C 库随机数,削弱后门传闻。

Anthropic Claude 还原 NIST ECDSA 曲线种子:lrand48 与 Unix 时间戳示意图