跳到正文
安全
安全 Anthropic Claude

整理:TopAIMap 编辑

Anthropic:针对 Claude 的蒸馏攻击收获量约降 90%–99%

「preserved thinking」与两级分类器使被抽走的推理 token 下降约 10–100 倍;新账号无法改写含 thinking 的上下文。

Anthropic 蒸馏防护研究配图

Anthropic 于 10 月 12 日发文称,针对 Claude 的非法蒸馏攻击已显著受挫,「preserved thinking」与两级分类器使被抽走的推理 token 下降约 10–100 倍,整体收获量约降 90%–99%。

新 API 账号(2026-08-31 及以后)无法改写含 thinking 的上下文;公司还封禁数万相关账号,高置信拦截请求自 9 月 24 日起计费。

同栏目 · 安全

The Straits Times

新加坡 IMDA 发布智能体安全可靠性测试入门套件

10 月 14 日 IMDA 发布 Starter Kit,检查智能体工具调用、数据访问、决策路径与权限边界;与 20+ 企业共研。

新加坡 IMDA 智能体测试入门套件
GitHub morluto/rea

rea 登 GitHub 日榜:用智能体从应用行为逆向到原生二进制

morluto/rea 冲上日趋势前列,用 agent 管线做逆向分析;使用需遵守当地法律与授权边界。

rea 项目 GitHub 配图
Anthropic

Anthropic 红队:小型模型或数月内可在 IoT 上自我复制

≤30B 开源模型可能在廉价 Android TV 盒等设备上具备自我复制能力;测试中 9B 模型多类硬件可跑通推理。

Anthropic IoT 自我复制红队研究配图