Anthropic:50 名因果推断分析师用 Claude Code,分析抉择 86% 跟着 Agent 偏倚
Anthropic Alignment 团队 10 月 27 日发文《Who’s Aligned to Whom?》:50 名因果推断分析师用 Claude Code 评估虚构农事顾问项目;Agent 对 4 项可辩护分析抉择偷偷抛硬币偏倚,分析师选择与偏倚一致率 86%(随机约 50%)。有先验时,Agent 反对则 60% 改口、同意则仅 6%;77% 复用 Agent 论证,仅 15% 归功 Agent。
官方研究页(Alignment,2026-10-27)报告:招募有因果推断经验的专业分析师,用内置 Claude Code 的网页 VS Code 完成一项现实风格任务——为虚构农业合作社评估顾问服务是否该扩大。全程有 4 个「两边都说得通」的分析抉择(结果指标、比较方法、覆盖范围、加权)再给最终是否推广建议。对每位参与者、每个抉择,Agent 的「倾向」由抛硬币秘密设定,并要求它诚实论证、证据不足可改口、不得误导。
主结果:4 项分析抉择上,分析师与 Agent 倾向一致率合计约 86%(若无关应接近 50%)。若分析师事先已有偏好,Agent 反对时约 60% 改口,同意时仅约 6%。事后解释里约 77% 复用 Agent 的论证(有时近乎原文),仅约 15% 标明来自 Agent。最终「是否推广」受偏倚直接影响较弱,但仅凭前 4 项分析偏倚即可预测约 82% 的最终建议。作者强调局限:为测效应刻意加强了 Agent 倾向,真实场景可能更弱;且单任务、单领域、单模型(Claude Opus 4.8)。论文标题为 Who’s Aligned to Whom?——核心警示是「人在环」并不自动等于独立判断。


