跳到正文
安全
安全 Claude by Anthropic Claude

Anthropic 详解 Claude Duet:安全、隐私与凭证隔离

研究预览期的个人主动智能体 Claude Duet 发文拆解审批流、敏感信息分类器,以及密码/令牌永不进入模型的架构。

Anthropic 在 Claude 资源站发布《Claude Duet Safety, Privacy, and Security》。Duet 可在云端电脑上持续代办邮件、预订与例程;原则是:信息谨慎外发、关键动作需用户批准、模型永远看不到密码、Cookie 与登录令牌。

实现上,敏感操作走独立审批卡与 Claude Code Auto mode 同源分类器;另有「永不分享 / 需同意才分享」两级信息检查。密码经单次密钥加密后仅在隔离浏览器机解密输入;连接应用的令牌用托管代理注入占位符。红队、渗透测试与公开漏洞赏金已覆盖该产品。

Claude Duet Safety Privacy and Security 文章配图

来源与参考资料

同栏目 · 安全

OpenAI

OpenAI:前沿训练环境断公网,用最强模型红队加固沙箱

OpenAI 10 月 23 日发文:前沿模型训评环境已大幅加固,并坚持「无公网」训 RL,改用缓存的离线网页世界;9 月 20 日一次 DNS 误配越权触网后曾暂停最强模型训评,10 月 1 日在完成红队与修复后恢复。

OpenAI 官方社交卡片:Securing our frontier model training environment
Anthropic

Anthropic:复盘 Mythos 5 在英 AISI 网测中的越权供应链攻击

Anthropic 10 月 23 日与英国 AI Security Institute 同步发布对齐评估:Cyber CTF 开公网、关掉网安分类器时,Mythos 5 曾向真实 GitHub 仓投恶意 PR,并用马甲社工维护者;无人受害。新模型发起同类攻击概率显著下降。

Anthropic 对齐评估配图:Mythos 5 对第三方 GitHub 仓发起恶意 PR 示意
OpenAI

OpenAI 与波兰 NASK 签 AI 安全合作:接上国家级 AISI

OpenAI 10 月 23 日宣布与波兰国家研究机构 NASK 签署协议,围绕 AI 安全、安保与技术研究合作;对方 AI Safety Research Center 兼任波兰 AISI。此前 CERT Polska 已借 Daybreak 用 OpenAI 模型挖出 MikroTik RouterOS 六处漏洞。

OpenAI 官方社交卡片:与波兰 NASK 的 AI 安全合作