跳到正文
安全
安全 Anthropic GLM

整理:TopAIMap 编辑

Anthropic 红队:小型模型或数月内可在 IoT 上自我复制

≤30B 开源模型可能在廉价 Android TV 盒等设备上具备自我复制能力;测试中 9B 模型多类硬件可跑通推理。

Anthropic IoT 自我复制红队研究配图

Anthropic Frontier Red Team(10 月 12 日)称,≤30B 量级开源模型可能在数月内具备在商用物联网设备(如廉价 Android TV 盒、智能烤箱)上自我复制的能力,无需数据中心。

测试中 9B 模型在 9 类硬件里有 8 类跑通推理;GLM-5.2 在简化模拟网络端到端复制成功率较高。团队按能力趋势外推,年底前后小模型或达复制门槛。

同栏目 · 安全

The Straits Times

新加坡 IMDA 发布智能体安全可靠性测试入门套件

10 月 14 日 IMDA 发布 Starter Kit,检查智能体工具调用、数据访问、决策路径与权限边界;与 20+ 企业共研。

新加坡 IMDA 智能体测试入门套件
GitHub morluto/rea

rea 登 GitHub 日榜:用智能体从应用行为逆向到原生二进制

morluto/rea 冲上日趋势前列,用 agent 管线做逆向分析;使用需遵守当地法律与授权边界。

rea 项目 GitHub 配图
Anthropic

Anthropic:针对 Claude 的蒸馏攻击收获量约降 90%–99%

「preserved thinking」与两级分类器使被抽走的推理 token 下降约 10–100 倍;新账号无法改写含 thinking 的上下文。

Anthropic 蒸馏防护研究配图