跳到正文
安全
安全 Politico / @Owen_Dahlkamp Claude

整理:TopAIMap 编辑

Anthropic 向国会私下推销前沿 AI 安全法案:干预门槛为超 $10 亿损失或 50+ 人伤亡

2026-10-16 Politico 独家:Anthropic 向国会推销自拟前沿 AI 安全法案——仅当可预见迫在眉睫风险造成超 $10 亿损失或 50+ 人伤亡(生物/网络/失控)时政府可干预;独立评估方 72 小时内报商务部,仅 DC 联邦法官可下令暂停。

Anthropic pitches a frontier AI safety bill to Capitol Hill with high intervention thresholds

当地时间 2026年10月16日约 2:45pm PT,Politico 记者 Owen Dahlkamp 独家披露:Anthropic 代表正悄悄向美国国会推销一份自拟的前沿 AI 安全与安保法案草案;Techmeme、Reuters Legal、Investing.com 等跟进。Politico 官帖约 1.2 万展示、15 赞;记者 SCOOP 帖约 2470 展示、24 赞。核心条款:政府仅可在「可预见且迫在眉睫」的风险下干预——造成超过 10 亿美元损害,或致死/重伤超过 50 人,且限于生物武器、网络攻击,或模型绕过开发者安全控制三类场景。

条件与影响:草案拟由商务部登记的独立评估方对前沿模型做定期评估(公司可付费,但报酬不得与评估结论挂钩);评估方若认定达到上述阈值,须在完成评估后 72 小时内通知商务部,再由商务部向法院申请暂停发布或使用。其他联邦机构不得单独叫停模型开发/部署/内部使用;只有哥伦比亚特区联邦地区法院法官可下令暂停。Politico 摘要还提到草案会限制政府拦模型发布的情形,并可能优先于部分州级 AI 安全法。Anthropic 与商务部未立即置评。这是「实验室自拟联邦护栏」而非新模型发布——对 Claude 等前沿模型的合规与发版节奏有长期影响。

谁能用:目前仍是国会游说中的草案,非已通过法律;无 Free/Pro/Ultra 产品开关可点。影响面:Anthropic 及同等「前沿」开发者的模型发布、安全评估与州法合规路径;独立评估方需在商务部登记。开发者/企业:短期 API、Claude App、Team/Enterprise 席位不变;中长期需盯联邦门槛是否抬高州级强制披露/暂停权。无候补名单;面向立法与政策受众,不是消费端功能上线。

真实用法:合规与政策团队会把「$10 亿 / 50 人 / 生物·网络·失控」写成内部红线检查表;安全评测外包商开始对照「商务部登记评估方」角色设计报价与利益冲突条款;州 AI 安全法案游说方关注联邦优先条款会不会冲掉加州等地更严规则。产品侧暂无按钮可点——这是发版治理与游说新闻。

解读:前沿实验室主动把「拦模型」的联邦门槛写得极高,等于用立法锁住干预难度,同时用独立评估+法院单点审批制造程序正当性。讨论:1)$10 亿或 50 人伤亡门槛,是务实的灾难阈值还是实质废掉事前叫停?2)公司可给评估方付费(只要不挂钩结论)——信任链能否成立,还是需要完全公帑评估?

来源:@Owen_Dahlkamp https://x.com/Owen_Dahlkamp/status/2111212563992056132 · @politico https://x.com/politico/status/2111212154758021624 · Politico https://www.politico.com/news/2026/10/16/anthropic-ai-safety-01124654 · @Techmeme https://x.com/Techmeme/status/2111231093366284718 · @ReutersLegal https://x.com/ReutersLegal/status/2111228225200308460 · Investing.com 转述 https://uk.investing.com/news/economy-news/anthropic-proposes-ai-safety-bill-with-strict-intervention-thresholds--politico-4915255

同栏目 · 安全

Anthropic

Anthropic:Claude 半小时内还原 NIST ECDSA 曲线种子来源,削弱 NSA 后门疑云

2026-10-16,Anthropic 发布研究:内部 Claude 研究模型在不到半小时内还原 NIST P-192/P-224/P-256/P-384/P-521 等 ECDSA 曲线种子来源——它们来自以 Unix 时间戳初始化的 C 库 lrand48,而非传闻中的幽默口令哈希。官方称这不是密码学破解;Filippo 赏金已认领并捐赠 ISRG;@sweis 官帖约 2100+ 赞、32 万展示,HN 约 330 分。

Anthropic Claude 还原 NIST ECDSA 曲线种子:lrand48 与 Unix 时间戳示意图
商务部、科技部(2026 年第 48 号公告)

中国拟将 23 项 AI 技术列入出口管制:大模型门槛为算力≥10²⁶次、参数≥2 万亿或评测全球前 10,已开源技术与 API/SaaS 服务不受影响

商务部、科技部 10 月 16 日发布 2026 年第 48 号公告,就修订《中国禁止出口限制出口技术目录》征求意见:AI、生物医药、光伏共 40 项技术(禁止 14 项、限制 26 项),其中 AI 占 23 项,覆盖大模型、智能体、算力集群和信息处理;意见征集至 11 月 15 日,公告发布起相关技术出口须先登记。已开源、已发论文的技术不纳入,对外提供 API、App、SaaS 不算大模型技术出口。

信息图:商务部、科技部 2026 年第 48 号公告,中国拟将 23 项 AI 技术列入出口管制目录,列出大模型、智能体限制门槛与不纳入管理的情形
Anthropic

Anthropic 给 METR「员工级」权限:6 名外部评估员入驻,可查内部系统,发布风险结论 Anthropic 无否决权

10 月 15 日,Anthropic 发文宣布,已向非营利评估机构 METR 的团队开放「类员工权限」:6 名 METR 员工领了公司电脑、工位,能用的内部工具和系统大致与 Anthropic 自家风险评估团队相当。METR 将公开发布对 Anthropic 风险水平、事故和安全做法的分析,Anthropic 不能否决发布,只能要求删去少数事先约定类别的信息。

Anthropic 官方配图:An update on independent evaluators