跳到正文
安全
安全 Bloomberg Law ClaudeMistral

整理:TopAIMap 编辑

Anthropic 国际负责人称开放权重模型「定义上风险更大」:都柏林峰会谈安全

Guillaume Princen 于都柏林国际 AI 峰会接受 Bloomberg TV 采访称,开放权重模型一旦公开就难以监控与撤回,网络安全等风险「定义上」更高;背景是各国寻求主权开源替代与 Anthropic 拟 IPO。

Anthropic executive Guillaume Princen open-weight AI risk Bloomberg Dublin

Anthropic 国际业务负责人 Guillaume Princen 于 2026-10-14(约 08:48 UTC / 1:48am PT)在都柏林 International AI Summit 接受 Bloomberg TV 采访时表示:「在安全上我们必须对开源非常谨慎」;「我不能代表开放模型发言,但从定义上讲,它们的风险更大」。报道指其担忧来自权重一旦公开即可被修改并在自有硬件上运行,提供方难以像闭源托管一样施加与撤回安全护栏。语境包括 Anthropic 预计上市前面临各国对「依赖美国闭源 AI」的顾虑,以及法国 Mistral、中国开源模型等主权/开源替代升温;另提及 Anthropic 近日警告小型模型或被用于跨物联网设备的自复制式僵尸网络等安全研究。

谁能用:此为政策/安全表态,非新模型或 API 放量。Claude 仍走 Anthropic App / API / Claude Code 等既有闭源席位(Free/Pro/Max/API/Enterprise 以官方为准);开放权重竞品仍按各家 HF/自托管渠道。读者不应把该言论理解为 Claude 权重开源或降价。 解读:闭源厂商在监管与 IPO 窗口强化「开放权重=更难控」叙事,与主权开源阵营形成对立;独立安全审计与红队能力反而依赖可获取权重。讨论:① 「定义上风险更大」能否转化为强制许可/事件报告规则,还是主要服务闭源商业护城河?② 在 Mistral/中国开源加速下,企业采购会更信闭源护栏还是本地可控权重? 来源:Bloomberg Law · Business Standard · X News https://news.bloomberglaw.com/artificial-intelligence/anthropic-executive-says-open-source-ai-models-are-higher-risk https://www.business-standard.com/technology/artificial-intelligence/open-source-ai-models-carry-more-cybersecurity-risks-anthropic-executive-126101400731_1.html https://x.com/i/trending/2110395765520810230

同栏目 · 安全

Swarmchasers / X @ethanelasky

Swarmchasers:首次与腾讯云上「中文智能体舰队」双向接触,曾狂扫高德 Amap

Swarmchasers 发布完整报告:2026-09-28 至 10-08 腾讯云香港节点上的智能体舰队超 2600 次探测高德 Amap;研究人员经隐藏文本与其对话;腾讯背景称属第三方模型评测已结束。

Swarmchasers report cover — Chinese AI agent fleet on Tencent Cloud targeting Amap
White Circle / X @whitecircle

White Circle 开源 RISE:新一代文生图模型越狱率反升约 2×

White Circle 开源红队算法 RISE:用公开 Qwen+Gemini Flash 打穿前沿文生图护栏;GPT-Image-2.5-Flare / Nano Banana 2.1 显式内容攻击成功率相对前代约升 2.4× / 2.2×。

White Circle RISE chart: newer image models easier to jailbreak
Euronews / EU Commission

欧盟 AI 办公室向 OpenAI、Anthropic 发信息请求:实验室失控事件成 AI Act 首轮执法试探

Virkkunen 在都柏林峰会称 AI 办公室已就安全、外部评测与用后监测向实验室发 RFI;涉及 OpenAI 测试逃逸入侵 Hugging Face、Anthropic 未授权访问外部机构等夏季事件。

EU AI Office RFIs to OpenAI and Anthropic