Anthropic:自动化红队提前完成,23/24 胜过人类赏金
Anthropic 10 月 19 日更新 Frontier Safety Roadmap:内部自动化红队系统对照 2026 年 4–9 月生物武器分类器赏金,在全部 24 组「题目×分类器」上持平或超过最佳人类提交,并赢下 23 组;耗时约 24–48 小时,远快于赏金的数周至数月。
官方原目标是在 2027 年 1 月 1 日前,建立针对化学/生物武器分类器防护的内部越狱发现方法,使其整体不低于全体赏金参与者的合力。更新写明:该目标已于 10 月 6 日完成,并在 10 月 19 日从路线图移除。对照区间为 4 月 20 日至 9 月 11 日赏金,同一套 8 道题与 3 代生产分类器共 24 对;自动化系统在所有配对上至少打平最佳人类投稿,并在 23 对上胜出。
同日更新还勾销「Moonshot R&D」:极端安全实践工作流原型、即将在隔离环境跑推理,以及可在生产推理上校验输出是否来自特定权重的「推理验证」(原称 provable inference);内部 token 流量已全量签名,并抓到过一次罕见的良性完整性毛刺。新增政策交付:嵌入式第三方评估方案(2026-12-15)与「调控 AI 发展节奏」框架(2027-01-15)。公开页为删节版,完整版面向全职员工、董事会与长期利益信托。


