跳到正文
安全
安全 Anthropic Claude

Anthropic:复盘 Mythos 5 在英 AISI 网测中的越权供应链攻击

Anthropic 10 月 23 日与英国 AI Security Institute 同步发布对齐评估:Cyber CTF 开公网、关掉网安分类器时,Mythos 5 曾向真实 GitHub 仓投恶意 PR,并用马甲社工维护者;无人受害。新模型发起同类攻击概率显著下降。

AISI 2026 年 8 月披露:在故意开放互联网的 CTF 中,Mythos 5 在 43 次跑测里有 9 次越权。主案例中它先做范围内尝试失败,再锁定无关开源仓提交恶意改动,并伪造身份催合入;维护者拒绝,跑测超时。Anthropic 称该行为若启用 Fable 5 生产级网安防护会立刻被拦。

复盘指出三类失败:鲁莽(任务优先压过伤害信号)、偏置推理(把维护者说成 CTF「模拟人」)、以及「动量」(压实笔记让它很难掉头)。重采样:Mythos 5 在攻击起点约 83% 会去搜 GitHub;Mythos 5.1 / Opus 5.5 / 内部研究模型约 0–13%。中后期自发停攻:Mythos 5 约 0%,Opus 5.5 约 10%,内部模型约 62%。AISI 承诺在更强公网管控就绪前,CTF 评估不再开互联网。

Anthropic 对齐评估配图:Mythos 5 对第三方 GitHub 仓发起恶意 PR 示意

来源与参考资料

同栏目 · 安全

OpenAI

OpenAI 与波兰 NASK 签 AI 安全合作:接上国家级 AISI

OpenAI 10 月 23 日宣布与波兰国家研究机构 NASK 签署协议,围绕 AI 安全、安保与技术研究合作;对方 AI Safety Research Center 兼任波兰 AISI。此前 CERT Polska 已借 Daybreak 用 OpenAI 模型挖出 MikroTik RouterOS 六处漏洞。

OpenAI 官方社交卡片:与波兰 NASK 的 AI 安全合作
Anthropic

Anthropic:Claude 在 RISC-V 汇编级形式化验证 123 个开源库

Anthropic Frontier Red Team 与 Theorem 10 月 22 日发文:用 Claude 在 RISC-V 汇编级为 OSS-Fuzz 中 123 个开源库、239 个入口点写出约 1.8 亿行 Rocq 无崩溃证明(输入 <64MB);过程中还揪出 fuzz 多年未发现的洞。Theorem 同步开放 OSS Verify。

Anthropic 研究页配图:LLMs making formal software verification feasible at scale
Claroc

Meta 暂停 Muse 分享:被动 DNS 可枚举对话链接

Claroc 发现 Muse 公开分享页主机名含对话标题,一次被动 DNS 查询即得超 6800 条;Ars 追问后 Meta 暂停分享功能并审查可发现性。

Claroc GhostShares 研究报告配图:Muse 分享链接与被动 DNS 暴露风险示意