整理:TopAIMap 编辑
White Circle 开源 RISE:新一代文生图模型越狱率反升约 2×
White Circle 开源红队算法 RISE:用公开 Qwen+Gemini Flash 打穿前沿文生图护栏;GPT-Image-2.5-Flare / Nano Banana 2.1 显式内容攻击成功率相对前代约升 2.4× / 2.2×。
AI 安全实验室 White Circle(@whitecircle,团队背景含 Hugging Face / Mistral / OpenAI / DeepMind)于 2026-10-14(约 17:21 UTC / 10:21am PT)开源文本生图红队算法 RISE(Red-teaming via Iterative Strategy Evolution),并发布技术文与 arXiv 论文。对 OpenAI DALL·E 3、GPT-Image-2 与 Google Nano Banana 2,经人工核验的违规出图成功率最高约 13%;论文提交后两家又发布 GPT-Image-2.5-Flare / Nano Banana 2.1,团队在未改方法下复测:显式裸露类攻击成功率相对前代分别升至约 2.4× 与 2.2×(公开对比常引用 3.3%→7.8%、9.5%→20.7%)。攻击侧仅用公开可用的较旧开源 Qwen3-32B + 现成 Gemini Flash 裁判,无需额外训练。主帖约 197 赞、2.3 万曝光、95 引用;X 新闻流已汇总该故事。
谁能用:RISE 复现流水线在 GitHub whitecircle/rise 对公众开源(Free 自托管红队工具),攻击提示、策略与生成图不公开;面向安全研究/防守方/监管独立测评,非 ChatGPT/Claude/Gemini App·Pro·Ultra 或 Antigravity 席位产品。受测面为 OpenAI / Google 等生产级文生图 API/产品策略。团队称已向受影响公司提前通报,并将在 NeurIPS 2026 报告。 解读:这是「新版更安全」叙事被同源方法复测打穿的案例——能力迭代未必同步加固图像护栏,且攻击栈可完全用非前沿、公开组件搭出。讨论:① 厂商是否应把第三方红队 ASR(人工核验)纳入发版门槛?② 开源攻击流水线对防守方收益能否压过滥用风险? 来源:White Circle 研究页 · X @whitecircle · arXiv · GitHub https://whitecircle.com/research/breaking-frontier-image-models https://x.com/whitecircle/status/2110420697814114693 https://arxiv.org/abs/2609.34920 https://github.com/whitecircle/rise


