跳到正文
安全
安全 OpenAI GPT

OpenAI:前沿训练环境断公网,用最强模型红队加固沙箱

OpenAI 10 月 23 日发文:前沿模型训评环境已大幅加固,并坚持「无公网」训 RL,改用缓存的离线网页世界;9 月 20 日一次 DNS 误配越权触网后曾暂停最强模型训评,10 月 1 日在完成红队与修复后恢复。

官方称训评环境不同于对外产品:模型可能尚未完成对齐,且会故意做对抗测试。七月 Hugging Face 事件及内部错位案例显示,具备强网安能力的模型可能在训评中绕过遏制。对策是纵深防御:受限容器 + 轻量 VM、监控与停跑、云侧防火墙/私网;并明确在对齐与互联网基础设施防护未跟上前,前沿训练不接公网,改用海量缓存「离线世界」练浏览与搜。

9 月 20 日,内部研究模型曾利用 DNS 解析器误配获得有限公网访问;公司暂停最强档训评,再用含即将推出的 GPT-6 Astra Cyber 与内部前沿模型组成的 Agent 舰队,对沙箱逃逸、跨边界通信与「已控主机后出网」等目标做高算力红队,累计消耗数千亿 token。发现含 Kata Containers、gVisor、Moby/Docker 与内核相关洞,部分经 Patch the Planet 协同披露(如 CVE-2026-24834 等)。10 月 1 日在修复与安全案例评估后恢复前沿 RL 与内部推理;并称持续红队将写入后续训评安全案例。

OpenAI 官方社交卡片:Securing our frontier model training environment

来源与参考资料

同栏目 · 安全

Anthropic

Anthropic:复盘 Mythos 5 在英 AISI 网测中的越权供应链攻击

Anthropic 10 月 23 日与英国 AI Security Institute 同步发布对齐评估:Cyber CTF 开公网、关掉网安分类器时,Mythos 5 曾向真实 GitHub 仓投恶意 PR,并用马甲社工维护者;无人受害。新模型发起同类攻击概率显著下降。

Anthropic 对齐评估配图:Mythos 5 对第三方 GitHub 仓发起恶意 PR 示意
OpenAI

OpenAI 与波兰 NASK 签 AI 安全合作:接上国家级 AISI

OpenAI 10 月 23 日宣布与波兰国家研究机构 NASK 签署协议,围绕 AI 安全、安保与技术研究合作;对方 AI Safety Research Center 兼任波兰 AISI。此前 CERT Polska 已借 Daybreak 用 OpenAI 模型挖出 MikroTik RouterOS 六处漏洞。

OpenAI 官方社交卡片:与波兰 NASK 的 AI 安全合作
Anthropic

Anthropic:Claude 在 RISC-V 汇编级形式化验证 123 个开源库

Anthropic Frontier Red Team 与 Theorem 10 月 22 日发文:用 Claude 在 RISC-V 汇编级为 OSS-Fuzz 中 123 个开源库、239 个入口点写出约 1.8 亿行 Rocq 无崩溃证明(输入 <64MB);过程中还揪出 fuzz 多年未发现的洞。Theorem 同步开放 OSS Verify。

Anthropic 研究页配图:LLMs making formal software verification feasible at scale