整理:TopAIMap 编辑
METR 提「嵌入式评估」:要公开实验室是否会失控内部 Agent 的证据
METR 于 10 月 14 日发布嵌入式评估愿景,覆盖对齐、控制与 AI 研发加速三大块;官帖约 344 赞、2.1 万曝光。
2026-10-14,非营利评估机构 METR(@METR_Evals)发文并提出一系列博客:若前沿实验室正走向「失去对内部 Agent 的控制」,外界能否及时知情?其「嵌入式评估」(embedded assessments)方案主张独立评估者在约定范围内查阅内部数据与访谈员工,围绕三块出公开证据——(1) 对齐:内部事故与训练是否压制更严重错位迹象;(2) 控制:内部 Agent 造成严重伤害却未被发现的可能性;(3) AI R&D 加速:自动化研发把能力增速推到对齐/控制跟不上的程度。对开发方的三项要求包括:评估范围/删改/局限透明、员工可就范围内议题私下向 METR 陈述、在约定范围内快速公开发布(可删改)。METR 强调产出是证据而非安全背书或正式监管,并称愿与 OpenAI、Anthropic、Google DeepMind、Meta、Amazon 等继续试点。官帖约 344 赞、约 2.1 万曝光、64 转发。
谁能用:这是面向前沿实验室的第三方评估提案,非面向普通用户的产品入口;公众可读博客与评估报告,无法自行接入。普通用户继续用各厂 App/API(Free/Pro/Ultra/Enterprise 等)不受影响。 解读:把「失控风险」从模型能力榜拉回实验室内部 Agent 与研发自动化,要求可公开的第三方证据。讨论:① 删改权仍在开发方时,报告可信度如何界定?② 是否应把嵌入式评估写入 Frontier Safety Policy 或采购合同?


