跳到正文
安全
安全 The Straits Times

整理:TopAIMap 编辑

新加坡 IMDA 发布智能体安全可靠性测试入门套件

10 月 14 日 IMDA 发布 Starter Kit,检查智能体工具调用、数据访问、决策路径与权限边界;与 20+ 企业共研。

新加坡 IMDA 智能体测试入门套件

新加坡资讯通信媒体发展局(IMDA)于 2026-10-14 在 AI Assurance Exchange 发布《Starter Kit for Testing Agentic Systems for Safety and Reliability》,供企业与测试方评估可自主执行任务的 AI 智能体。套件覆盖:所用工具、访问信息、决策路径、越权/错误动作、权限与边界是否被遵守,以及防护措施是否生效;并含案例研究。联合政府机构及 Amazon、Google、Microsoft、Singtel 等 20 余家部署方/测试方与新加坡 AISI 共研,托管于 AI Verify Foundation 资源库。

谁能用:面向企业与第三方测试机构的自愿实践参考,公开可下载;同日公布首批 AI Tester 认证机构(AIDX Tech、Knovel Engineering、PwC Singapore、Resaro、Vulcan)。非模型 API,不限 Free/Pro。 解读:监管从「LLM 应用」推进到「会动手的 agent」,测试维度从答案对错扩到过程可审计。讨论:① 企业会否把该套件写成上线门禁?② 与美欧红队框架如何互认?

同栏目 · 安全

X @heinenbros

Anthropic 暂停 Graylark 整套 Claude Enterprise:CEO 晒配枪玩笑帖触发

Graylark CEO 发枪旁跑 Claude 玩笑帖后,Anthropic 暂停该公司整套 Enterprise 工作区;暂停帖约 4000 赞、37 万曝光。

Anthropic 暂停 Graylark Claude Enterprise 邮件截图
GitHub morluto/rea

rea 登 GitHub 日榜:用智能体从应用行为逆向到原生二进制

morluto/rea 冲上日趋势前列,用 agent 管线做逆向分析;使用需遵守当地法律与授权边界。

rea 项目 GitHub 配图
Anthropic

Anthropic:针对 Claude 的蒸馏攻击收获量约降 90%–99%

「preserved thinking」与两级分类器使被抽走的推理 token 下降约 10–100 倍;新账号无法改写含 thinking 的上下文。

Anthropic 蒸馏防护研究配图