整理:TopAIMap 编辑
Inworld 向全体开发者开放 Inference:面向消费级应用,Gemma 4 首 token 最高约 7.8× 更快
10-14 官宣:面向陪伴/语音等消费场景的开源模型推理服务上线;OpenAI 兼容 API,Gemma 4 26B 标价约 $0.07/$0.34,自测相对 OpenRouter 中位提供商首 token 最高约 7.8×。
Inworld AI(@inworld)于 2026-10-14(约 9:37am PT)宣布 Inworld Inference 向全体开发者开放:称面向消费级应用(陪伴、语音教练、故事等)自研推理栈,覆盖 Gemma 4、GLM 5.3 Flash、DeepSeek V4.1 Flash、MiMo 2.6 Pro 与决策模型 Clef 等开源权重。官方对比 OpenRouter:Gemma 4 26B 首 token p95 约 0.31s 对中位提供商约 2.42s(约 7.8×);输入价约 $0.07/百万 token,称较不训练用户数据的中位提供商低近 40%;GLM 5.3 Flash 30 天超 2000 万请求成功率约 99.999%。主帖约 175 赞、14.3 万曝光、122 引用。BusinessWire 同步发稿。
谁能用:开发者平台公开可用——OpenAI 兼容 API(base https://api.inworld.ai/v1),浏览器 Playground 可免密钥试玩;按用量付费(非 ChatGPT Free/Pro/Ultra 席位)。示例 Default 价:Gemma 4 26B 约 $0.07 输入 /$0.035 缓存 /$0.34 输出;Gemma 4 31B 约 $0.13/$0.065/$0.38;请求可设 service_tier=flex/default/priority/fast。亦可自带权重做专用部署(美欧印亚太),声称托管模型零数据留存。 解读:这是把「消费级长对话、短回复、极低单次成本」做成独立推理产品线,用 KV 感知路由与 realtime decoding(draft-verify)抢 OpenRouter/云厂商同模型位次;数字多为自测与 OpenRouter 快照,独立第三方评测仍需补齐。对建设者:先用现有 OpenAI SDK 改 base URL 跑自家延迟/缓存命中/成本对照,再决定是否绑 Fast 档或专用部署。 讨论:① 消费级陪伴流量的缓存命中,能否在多租户混部里长期顶住自测的 90%?② 不训练用户数据的低价档,会不会被「更便宜但训数据」的提供商继续压价? 来源:X @inworld https://x.com/inworld/status/2110409542693478816 | Inworld Blog https://inworld.ai/blog/introducing-inworld-inference | Models https://inworld.ai/models | Docs https://docs.inworld.ai/router/introduction
参考资料


