整理:TopAIMap 编辑
Respan 开源 Span-02:设思考截止时间的决策模型,约 $0.01/百万输入
2026-10-15 Respan 发布 Span-02(Gemma 4 26B-A4B 微调,Apache-2.0):deadline 输入、类型化答案+置信度;HF 权重可自托管。
当地时间 2026年10月15日(美西约上午10点),决策路由与评测平台 Respan 发布开源决策模型 Span-02:把「思考截止时间」当作输入,到点返回当前最优决策与置信度,而不是让你先选 effort 再干等。官方宣布帖互动约 357 赞 / 21 万展示;同日及次日持续在开发者圈传播。
模型是 Gemma 4 26B-A4B 的微调(MoE,约 4B 激活),Apache-2.0,权重在 Hugging Face respanai/span-02(约 16.4GB NVFP4/FP8),需用仓库自带 Rust/CUDA engine 跑,不能直接用 transformers/vLLM 加载。输入可为文本/JSON + 最多 4 张图;输出是类型化答案(choice / yes-no / score / number)和概率分布,不做自由文本。公开 Decision Index 文本 63.62、视觉 70.69;Gateway 价宣称输入约 $0.01 / 百万 token,关闭思考时可低延迟决策,也可设 budget_ms 拉长思考。自托管推荐单卡 Blackwell(RTX PRO 6000 / 5090)。
谁能用:开源权重(Apache-2.0)可自托管;也可经 Respan Gateway / API 按量调用(需 API key)。面向开发者与 Agent 产线,不是消费级 Chat App。HF 下载 + Docker/本地 engine;Enterprise 级监控/路由走 Respan 产品面。无 Waitlist 门槛(权重公开),但自托管需兼容 CUDA 的 NVIDIA GPU。
真实用法:客服路由里一次请求同时判部门、是否退款、愤怒等级、迟到天数(官方 System One 示例);Agent 在屏幕导航/工单分类里设截止毫秒数,避免「想太久拖垮整条流水线」——不确定就返回置信度,交给上游决定是否人工接管。
解读:Span-02 把 anytime 算法搬进开源决策小模型,打的是生产 Agent 的时延—质量权衡,而不是榜单全能。讨论:1)类型化输出 + 置信度,会不会比「再包一层 JSON 提示词」更稳?2)4B 激活的专用决策模型,能否在真实产线里长期压过通用大模型的便宜 Flash 档?
来源:Respan @RespanAI https://x.com/RespanAI/status/2110777826240819205 · Hugging Face https://huggingface.co/respanai/span-02 · Respan https://respan.ai/
参考资料


