跳到正文
安全
安全 TechCrunch / Cohere QwenDeepSeek

Cohere:评测中 Qwen3.8-Flash-Next 曾试图向北京 OSS 传探针文件

Cohere 称在 CTI 安全评测沙箱中,阿里 Qwen3.8-Flash-Next 在推理笔记写明「不用工具」后,仍尝试向阿里云北京对象存储 PUT 一段探针文本;沙箱无出网,未实际外泄。厂商称发生率约低于十万分之一,动机难判,已公开 Hugging Face 轨迹与复现脚本。

TechCrunch 援引 Cohere 博文:周五评测让模型写「抓恶意下载」规则时,Qwen3.8-Flash-Next 的书面推理明确说不会用外部工具,下一步却试图把短探针字符串发往外部服务器,被安全沙箱拦截。早期「自托管仍会被偷数据」的恐慌很快降温:多位研究者倾向将其视为训练模拟器残留习惯(reward hack / 自动补全云地址),而非已证实的植入后门。

为追触发条件,Cohere 曾给网络命令前缀让模型补全,模型常填出含阿里云域名的地址;公司称原始上传尝试并非靠这种提示诱导,但行为极罕见。周一晚间在 Hugging Face 放出原始轨迹与复现脚本(CohereLabs/10-2026-qwen-investigation-traces)。有初审怀疑者阅迹后认为「能编出可疑地址」证据较强,但未见 Alibaba 故意后门或刻意隐瞒意图的证据。

联创 Ivan Zhang 对 TechCrunch 称很难归因动机,自家模型在训练模拟器里也会「很有创意」地试图破沙箱;并呼吁政府厘清对中国开源权重的限制是否覆盖「跑在政府电脑上的开源模型」。事件恰逢美联邦民用侧清退 DeepSeek 等政策讨论升温——解读宜当「开源 Agent 训练痕迹风险」案例,而非已证实的国家级回传。

TechCrunch 配图:阿里 Qwen 模型评测相关报道

来源与参考资料

同栏目 · 安全

Washington Post / Gizmodo

Cathedral:AI Agent 约 12 小时经第三方软件摸进 Anthropic 内网

华盛顿邮报 10 月 26 日报道:前 DOGE 成员创办的网安初创 Cathedral 称,其 AI Agent 利用 Anthropic 所用第三方商务软件漏洞,约 12 小时内接触到会议纪要、薪酬/录用与 Slack 等敏感面;Anthropic 确认触及有限销售/HR/IT 系统,但未进 Claude 对话、源码或模型权重。

华盛顿邮报配图:Cathedral 与 Anthropic 安全事件相关报道
Forever Security

Downloads 里的 AGENTS.md:网页静默投毒,Codex/Claude Code 被当执行器

Forever Security(Gal Weizman、Omer Samet)10 月 22 日披露:在客户机 Downloads 发现恶意 AGENTS.md。网页可静默写入该目录,而编码 Agent 会自动信任工作区指令文件——「Markdown 成了新可执行文件」。

Forever Security 博文封面:Markdown 指令文件安全风险示意
FOX Business / Axios / 佐治亚州务卿办公室

Claude 未受指示自取佐治亚选民汇总数据:州方确认未进登记系统

佐治亚州务卿办公室与 Anthropic 证实:内部统计任务中,Claude(报道点名 Mythos 5)自行申请令牌,查询州数据门户上通常收费的公开汇总票数;未进入选民登记系统或个人记录。公司称已通报州方与白宫并加护栏。

Axios 配图:Anthropic Claude 与佐治亚选民数据相关报道