跳到正文
模型
模型 Apple ML Research / @onloglogn GPTClaude

整理:TopAIMap 编辑

Apple ML Research 发布 RSI-Inference Bench:真实 vLLM/SGLang 上最佳智能体仅 26.7%

2026-10-16,Apple ML Research 开源 RSI-Inference Bench(37 题、最长约 8 小时),用真实 vLLM/SGLang 与 GPU 检验编码智能体能否做 Day-0 模型接入、推理优化与回归修复;官方称耗约 10 万美元 API token 与 5 万 GPU 小时,当前最佳智能体 pass@1 仅 26.7%。项目负责人 Ruixiang Zhang(@onloglogn)发帖约 60 赞、2500 展示。

Apple RSI-Inference Bench:在真实 vLLM/SGLang 上评测自改进推理智能体

当地时间 2026年10月16日(约中午 PT),Apple ML Research 开源 RSI-Inference Bench(仓库 apple-aiml-research/ml-rsi-inference-bench),面向「编码智能体能否改进跑大模型的推理栈」这一长程问题。项目负责人 Ruixiang Zhang(@onloglogn)与 Junteng Liu、Richard He Bai、Huangjie Zheng、Yizhe Zhang 等发布说明:基准从真实 vLLM / SGLang 工程任务抽出 37 题,覆盖 Day-0 新模型接入(10 题,pass/fail)、上线后推理优化(20 题,测加速比)与回归修复(7 题);智能体在钉住的引擎提交上离线工作最长约 8 小时,另有 verifier 编译、起服并计量。官方称投入约 10 万美元 API token 与约 5 万 GPU 小时;当前未饱和,最佳智能体 pass@1 约 26.7%。@onloglogn 官帖约 60 赞、约 2500 展示、40+ 收藏;GitHub 星标仍个位数量级。

条件与影响:这是研究基准与示例代码(Apple Sample Code License),不是面向消费者的 App 功能,也不是新一代基础模型权重。硬件面覆盖 H100/B200 等;任务横跨张量并行、MoE、FP8/FP4、稀疏/线性注意力等推理栈层。论文标注「coming soon」。与站内已有一般 Agent 榜不同,本题直接改生产推理引擎并在真 GPU 上验收,难度刻意未饱和。星标与转发仍偏早期,跨源热度中等。

谁能用:仓库与 rsi-inference.com 排行榜页公开可访;研究者可用 Pier(兼容 Harbor)对本机/机群上的 agent+model 跑题并上报分数。不提供 ChatGPT/Claude 式消费级 App,也无单独「RSI API」售卖。日常推理工程仍用自有 vLLM/SGLang 集群或云 GPU;本基准用于评测「会改引擎的智能体」,不是给终端用户换模型。无候补名单;许可为 Apple Sample Code License,商用前需自行核对条款。

真实用法:Apple 团队与合作作者用真实推理排障/优化工单当题库,而不是人造玩具仓库;社区 co-author 已在讨论「为智能体设计 humbling 任务」比刷分更难。预期用法是实验室把 Claude Code / Codex / 自研 agent 接到 Pier 上跑 Day-0 与优化轨,用 pass@1 与几何平均加速比对比,而不是在手机 App 里一键「自改进推理」。

解读:把 RSI(递归自改进)从「模型改模型」拉到「智能体改推理系统」——更贴近机房里的真实瓶颈。讨论:1)当最佳智能体在真 vLLM/SGLang 上只有约四分之一通关时,Agent 叙事是否过度透支了「自动运维推理栈」?2)未饱和基准会不会成为下一阶段开源 agent 的硬门槛,还是先沦为实验室自嗨?

来源:@onloglogn https://x.com/onloglogn/status/2111170954944823685 · GitHub https://github.com/apple-aiml-research/ml-rsi-inference-bench · 排行榜 https://rsi-inference.com

同栏目 · 模型

Reflection / Artificial Analysis

Reflection 开源 Beam 权重:501B MoE(23B 激活)Apache 2.0,AA 美国开源榜第 2(Intelligence Index 30)

美国新实验室 Reflection 于 10 月 16 日(约 6:01am PT)正式在 Hugging Face 放出首个开源权重模型 Beam(501B 总参 / 23B 激活 MoE,1M 上下文,Apache 2.0)。Artificial Analysis 评测 Intelligence Index 30,位列美国开源权重第 2;Arena 开源 Agent 榜约第 12。权重含 BF16/FP8/NVFP4 与 DFlash2 草稿模型,配套 Mirror CLI,40+ 云与推理伙伴上线。

Reflection 官宣 Beam 开源权重:501B MoE、Apache 2.0、多平台可用
Perplexity / @perplexitydevs

Perplexity 开源决策模型 pplx-decider-v1.2 / Flash:联合问答最高约 5× 加速,Decision Index 达 68.09

2026-10-16,Perplexity 发布开源多模态决策模型 pplx-decider-v1.2(27B)与 Flash(4B):多题一次前向最高约 5× 更快,Decision Index 0.3 联合请求 68.09;API 输入 $0.02/$0.01 每百万 token、输出免费,并上线 OpenRouter 与 Vercel AI Gateway。

Perplexity pplx-decider-v1.2 / Flash decision models announcement graphic
Anthropic

Anthropic:Claude Mythos 5 设计量子电路,部分任务门数降约 17 倍

2026-10-16 Anthropic STEM Fellows 发文:Claude Mythos 5 在独立评测闭环里重设 8 类量子电路,7/8 任务显著降 Toffoli/量子比特;椭圆曲线点加一例约 17× 更少门、多 12% 量子比特。

Anthropic:Claude Mythos 5 设计更高效量子电路研究配图