跳到正文
安全
安全 White Circle / X @whitecircle GPTClaudeGeminiQwenMistral

整理:TopAIMap 编辑

White Circle 开源 RISE:新一代文生图模型越狱率反升约 2×

White Circle 开源红队算法 RISE:用公开 Qwen+Gemini Flash 打穿前沿文生图护栏;GPT-Image-2.5-Flare / Nano Banana 2.1 显式内容攻击成功率相对前代约升 2.4× / 2.2×。

White Circle RISE chart: newer image models easier to jailbreak

AI 安全实验室 White Circle(@whitecircle,团队背景含 Hugging Face / Mistral / OpenAI / DeepMind)于 2026-10-14(约 17:21 UTC / 10:21am PT)开源文本生图红队算法 RISE(Red-teaming via Iterative Strategy Evolution),并发布技术文与 arXiv 论文。对 OpenAI DALL·E 3、GPT-Image-2 与 Google Nano Banana 2,经人工核验的违规出图成功率最高约 13%;论文提交后两家又发布 GPT-Image-2.5-Flare / Nano Banana 2.1,团队在未改方法下复测:显式裸露类攻击成功率相对前代分别升至约 2.4× 与 2.2×(公开对比常引用 3.3%→7.8%、9.5%→20.7%)。攻击侧仅用公开可用的较旧开源 Qwen3-32B + 现成 Gemini Flash 裁判,无需额外训练。主帖约 197 赞、2.3 万曝光、95 引用;X 新闻流已汇总该故事。

谁能用:RISE 复现流水线在 GitHub whitecircle/rise 对公众开源(Free 自托管红队工具),攻击提示、策略与生成图不公开;面向安全研究/防守方/监管独立测评,非 ChatGPT/Claude/Gemini App·Pro·Ultra 或 Antigravity 席位产品。受测面为 OpenAI / Google 等生产级文生图 API/产品策略。团队称已向受影响公司提前通报,并将在 NeurIPS 2026 报告。 解读:这是「新版更安全」叙事被同源方法复测打穿的案例——能力迭代未必同步加固图像护栏,且攻击栈可完全用非前沿、公开组件搭出。讨论:① 厂商是否应把第三方红队 ASR(人工核验)纳入发版门槛?② 开源攻击流水线对防守方收益能否压过滥用风险? 来源:White Circle 研究页 · X @whitecircle · arXiv · GitHub https://whitecircle.com/research/breaking-frontier-image-models https://x.com/whitecircle/status/2110420697814114693 https://arxiv.org/abs/2609.34920 https://github.com/whitecircle/rise

同栏目 · 安全

Swarmchasers / X @ethanelasky

Swarmchasers:首次与腾讯云上「中文智能体舰队」双向接触,曾狂扫高德 Amap

Swarmchasers 发布完整报告:2026-09-28 至 10-08 腾讯云香港节点上的智能体舰队超 2600 次探测高德 Amap;研究人员经隐藏文本与其对话;腾讯背景称属第三方模型评测已结束。

Swarmchasers report cover — Chinese AI agent fleet on Tencent Cloud targeting Amap
Check Point Research / TechRadar Pro

Check Point 披露 LiteLLM 网关两漏洞:低权限可接管并窃取厂商 API Key,已修 1.83.9

Check Point Research 披露 LiteLLM(约 9700 万次/月下载)CVE-2026-35029 / CVE-2026-59823:低权限用户可改配置、RCE、窃取 OpenAI/Anthropic/Google 等密钥;升级 1.83.9+ 并轮换密钥。

Check Point Research illustration of compromised LLM gateway (LiteLLM CVEs)
The Straits Times

新加坡 IMDA 发布智能体安全可靠性测试入门套件

10 月 14 日 IMDA 发布 Starter Kit,检查智能体工具调用、数据访问、决策路径与权限边界;与 20+ 企业共研。

新加坡 IMDA 智能体测试入门套件