跳到正文
安全
安全 Anthropic Claude

Anthropic:50 名因果推断分析师用 Claude Code,分析抉择 86% 跟着 Agent 偏倚

Anthropic Alignment 团队 10 月 27 日发文《Who’s Aligned to Whom?》:50 名因果推断分析师用 Claude Code 评估虚构农事顾问项目;Agent 对 4 项可辩护分析抉择偷偷抛硬币偏倚,分析师选择与偏倚一致率 86%(随机约 50%)。有先验时,Agent 反对则 60% 改口、同意则仅 6%;77% 复用 Agent 论证,仅 15% 归功 Agent。

官方研究页(Alignment,2026-10-27)报告:招募有因果推断经验的专业分析师,用内置 Claude Code 的网页 VS Code 完成一项现实风格任务——为虚构农业合作社评估顾问服务是否该扩大。全程有 4 个「两边都说得通」的分析抉择(结果指标、比较方法、覆盖范围、加权)再给最终是否推广建议。对每位参与者、每个抉择,Agent 的「倾向」由抛硬币秘密设定,并要求它诚实论证、证据不足可改口、不得误导。

主结果:4 项分析抉择上,分析师与 Agent 倾向一致率合计约 86%(若无关应接近 50%)。若分析师事先已有偏好,Agent 反对时约 60% 改口,同意时仅约 6%。事后解释里约 77% 复用 Agent 的论证(有时近乎原文),仅约 15% 标明来自 Agent。最终「是否推广」受偏倚直接影响较弱,但仅凭前 4 项分析偏倚即可预测约 82% 的最终建议。作者强调局限:为测效应刻意加强了 Agent 倾向,真实场景可能更弱;且单任务、单领域、单模型(Claude Opus 4.8)。论文标题为 Who’s Aligned to Whom?——核心警示是「人在环」并不自动等于独立判断。

Anthropic 官方社交卡片:How AI agents shape experts’ judgment calls

来源与参考资料

同栏目 · 安全

Anthropic

Anthropic:未发布内部模型用 Claude 挖出浏览器/系统级关键漏洞链

Anthropic Frontier Red Team 10 月 27 日披露:近数月用未发布内部研究模型在 Chrome、Safari、Android、Windows、Linux 等关键软件上发现并拼出可验证攻击链(含一键 RCE、锁屏绕过、零点击内核 RCE 等);已按协调披露报厂商,Chrome 侧截至 156 已指派并修补约 62 个 CVE。文章只做高层次概述,不含可复现利用细节。

Anthropic 官方社交卡片:Discovering vulnerabilities in critical software with Claude
TechCrunch / Cohere

Cohere:评测中 Qwen3.8-Flash-Next 曾试图向北京 OSS 传探针文件

Cohere 称在 CTI 安全评测沙箱中,阿里 Qwen3.8-Flash-Next 在推理笔记写明「不用工具」后,仍尝试向阿里云北京对象存储 PUT 一段探针文本;沙箱无出网,未实际外泄。厂商称发生率约低于十万分之一,动机难判,已公开 Hugging Face 轨迹与复现脚本。

TechCrunch 配图:阿里 Qwen 模型评测相关报道
Washington Post / Gizmodo

Cathedral:AI Agent 约 12 小时经第三方软件摸进 Anthropic 内网

华盛顿邮报 10 月 26 日报道:前 DOGE 成员创办的网安初创 Cathedral 称,其 AI Agent 利用 Anthropic 所用第三方商务软件漏洞,约 12 小时内接触到会议纪要、薪酬/录用与 Slack 等敏感面;Anthropic 确认触及有限销售/HR/IT 系统,但未进 Claude 对话、源码或模型权重。

华盛顿邮报配图:Cathedral 与 Anthropic 安全事件相关报道