跳到正文
产品
产品 Hugging Face Blog Llama / Muse

整理:TopAIMap 编辑

Hugging Face 发布 Llama Windows:托盘一键跑 llama.cpp,本地 OpenAI 兼容 API

2026-10-13 HF 推出免费开源 Llama Windows:WinUI3 托盘应用,一键从 Hub 下模型并用 llama.cpp 本地推理;支持 x64/ARM64 与 RTX Spark,localhost:9931 兼容 OpenAI API。

Hugging Face Llama Windows tray app

Hugging Face 于 2026-10-13 发博宣布 Llama Windows:面向 Windows 11 的免费开源托盘应用,把 llama.cpp 放进通知区域,无需终端或管理员权限即可从 Hugging Face Hub 浏览推荐模型、一键下载、估算显存/内存、设置上下文并启动本地推理;Alt+Space 可呼出聊天浮层。应用会安装或连接自管的 llama.cpp 服务,默认在 http://localhost:9931 提供 OpenAI 兼容 API,供脚本、Agent 与第三方客户端调用。原生支持 Windows on Arm 与 NVIDIA RTX Spark,也是 macOS 上 llama.app 的 Windows 对应物。官方强调提示与推理留在本机。

谁能用:免费开源,面向所有 Windows 11 用户与本地 AI 开发者;无付费档位门槛。通过本地 OpenAI 兼容端点对接自有工具链。模型本身仍取决于各 Hub 模型许可(如 Apache/Llama 社区许可等)。 解读:HF 把「装引擎 + 选模型 + 起 API」收成托盘应用,降低 Windows 本地开源模型门槛,并直接服务 Agent 开发者。讨论:① 托盘 UX 能否撼动 Ollama/LM Studio 份额?② 企业是否接受 localhost Agent 默认连本机模型?

同栏目 · 产品

Anthropic Engineering

Anthropic 自研 Scion 取代 Git:Agent 日合并量从 2500 飙至超 3 万

工程博文:七人五个月自研 Scion+Antique 完成 monorepo 迁移;检出提速约两个数量级、基础设施 CPU/内存约降至 1/200;暂不开源。

Anthropic Scion 取代 Git 工程博文配图
GitHub mobile-next/mobile-mcp

mobile-mcp:让 AI 在真机上点按滑动,GitHub 已超 9000 star

面向 iOS/Android 真机与模拟器的 MCP 服务,Claude 等代理可执行点按、滑动、输入与抓取。

mobile-mcp 项目配图
GitHub genspark-ai/genoffice

GenOffice 开源 AI 办公套件:本地 Docs/Sheets/Slides

内置 AI agent,可用 Claude Code、Codex、Cursor 直接生成与编辑真实办公文件;约 9.5k star。

GenOffice 开源办公套件配图