3GB 内存跑得动的两个模型，和端侧今年真正变了的那件事

端侧模型的叙事这两年一直是「更小、更快、够用就行」。今年变了——变的地方不是它们更聪明了，是它们开始会用工具、会看屏幕。

这个转折的意义是：端侧模型从「离线问答」跨到了「本地干活」。两个最有代表性的例子。

一、MiniCPM5-2B：25 亿参数，13 万上下文

2026 年 9 月 7 日，面壁智能（OpenBMB）放出 MiniCPM5-2B。参数量写得极具体：2,516,756,480，其中嵌入层之外是 1,981,982,720。42 层，分组查询注意力 16 个 query 头、2 个 KV 头，原生上下文 131,072 token。

一个非常实用的工程决定：架构是标准的 LlamaForCausalLM。主流引擎直接加载，不需要自定义算子，不需要 fork 模型代码。权重 Apache-2.0，vLLM、SGLang、Transformers、llama.cpp、Ollama、LM Studio、MLX、FlagOS 全都能跑。

成绩：34 项基准平均 53.9。同一组里最强的基线是 Qwen3.5-4B 的 51.1，然后是 granite-4.2-3B 的 42.7、LFM2.5-2.6B 的 33.2。

但平均分没意义，得看分项——因为它强弱极其不均：

• →代码推理是强项：LiveCodeBench v6 拿 69.1（对 56.4），SWE-bench Verified 拿 46.4（对 33.6）。
• →工具调用是最大优势：τ²-Bench Telecom 97.1，BFCL v4 66.6，τ³-Bench Banking 20.8 对 6.8。
• →长上下文是分裂的：NoLiMa 68.1 对 43.5（大赢），但 AA-LCR 59.0 对 61.0、LongBench v2 43.7 对 47.3（都输）。
• →知识是硬伤：MMLU-Pro 70.8 对 78.0，Humanity's Last Exam 8.9 对 9.9。

这是一个能干活的小模型，不是一个懂得多的小模型。把它当成执行器，别把它当成百科全书。

训练路线也公开了：先 4000 亿 token 的深度思考 SFT，然后用 JustRL II 算法给数学、代码、智能体、写作各训一个强化学习教师，最后做 on-policy 蒸馏——把 16 个强化学习专家（其中五个是智能体方向的）合并进一个出厂模型。官方测这一段（RL + OPD）在推理与通用基准上加了 10.96 分，在智能体基准上加了 6.96 分。

更值得敬一杯的是：数据集和中间 checkpoint 一起放了——Ultra-FineWeb、UltraData 系列、50 万条智能体样本、8 万多条 RL 样本，以及 Base、Midtrain、仅 SFT 三个中间版本。这意味着「每一个训练阶段贡献了多少」是可以被外部直接测的，而不是只能信它的 README。

二、LFM2.5-VL-3B：装在手机上的那双眼睛

2026 年 8 月 12 日，Liquid AI 发布 LFM2.5-VL-3B，31 亿参数的视觉语言模型，明确为端侧设计。

它干的事很具体：读手机、网页、桌面的界面；把物体定位到坐标；解析文档和图表；从文本或图像发起工具调用。

性能：28 项视觉基准平均 69.4，与 InternVL-3.5-4B 持平，比 Qwen3.5-4B 低 0.7 分——而那两个都是 47 亿参数。模型是非推理型的，直接给答案，这是它延迟低的设计原因。

端侧数据：占用约 3 GB 内存；在 Apple M5 Max 上解码 228 token/s，在 Galaxy S26 Ultra 上 20 token/s。四种格式齐发——native、GGUF、ONNX、MLX，首日运行时包括 llama.cpp、MLX、vLLM、SGLang、ONNX。

相比上一代真正变了的四件事：

• →界面理解：ScreenSpot-v2 平均 80.7（桌面 78.7、移动 81.2、网页 82.2）。作为对照，官方报 Gemma-4-E4B 是 51.2、Qwen3.5-4B 是 78.5，更大的 InternVL-3.5-4B 领先在 84.1。
• →函数调用是这条产品线新加的：ToolSandbox 从 26.4 到 59.5，BFCL v4 从 20.5 到 32.5。工具调用以 Pythonic 形式发在 <|tool_call_start|> 和 <|tool_call_end|> 之间。
• →定位：RefCOCO 平均 precision@1 从 57.1 到 87.9，30 分的涨幅，靠的是规模化的合成定位数据。
• →多图输入：BLINK 从 50.2 到 61.5，MuirBench 从 34.9 到 58.3。

骨干是 LFM2.5-2.6B，视觉塔是 SigLIP2 NaFlex 形状优化的 400M 编码器——NaFlex 处理原生分辨率的方式是把大图切成不重叠的 512×512 块再加一张整图缩略图。上下文 32,768，支持 16 种语言。预训练约 34T token，词表在原分词器上原地扩到 128K，为的是提升非拉丁文字的覆盖。

许可证必须单独说。LFM Open License v1.0 基于 Apache-2.0，但改了一条：公司年营收达到 1000 万美元之后，免费商用权终止。线以下的独立开发者、初创、中小企业可以零成本商用；线以上要跟 Liquid AI 谈商业许可。研究、教育、非营利用途没有营收限制。

还有一处回退：CountBenchQA 从上一版的 92.2 掉到 87.3。

三、这两个模型怎么用才不亏

MiniCPM5-2B 的正确用法是当执行器。它的强项集中在工具调用、代码智能体、NoLiMa 那种长文本检索上，弱项是知识和数学。所以合适的形态是：知识放在检索里、计算放在代码里，它负责理解意图、选工具、填参数、串流程。

LFM2.5-VL-3B 的正确用法是当眼睛和手。它的能力组合——看屏幕 + 定位坐标 + 调工具——指向的是一个非常具体的产品：本地的屏幕智能体。GUI 自动化测试、RPA、发票和小票 OCR、菜单路牌的离线翻译、车内近实时物体检测，这些都是官方点名的方向。占 3 GB、在 Galaxy S26 Ultra 上 20 token/s，意味着它真的能装进一个 App，而不只是能装进一台开发机。

三个坑：

• →别拿端侧模型做知识问答。两个模型的短板都在这里，而这恰恰是用户最容易拿来试的第一个问题——一试就露怯，产品第一印象就毁了。把入口设计成「干活」而不是「聊天」。
• →平均分是用来排除的，不是用来选型的。MiniCPM5-2B 的长上下文三项里一赢两输，如果你的场景正好是 LongBench 那种，它其实是输的。一定要按你自己的任务去对分项。
• →许可证先读完再动手。LFM 那条 1000 万美元营收线，对今天的你也许不是问题，但如果你做的是要卖给大企业的产品，客户那一侧的营收也可能触发问题。Apache-2.0 和「基于 Apache-2.0 改了一条」是两件事。

最后说一句这几个月我觉得最重要的观察：端侧模型的竞争焦点已经从「参数量下能跑多少分」，挪到了「能不能可靠地调一个外部函数」。MiniCPM5-2B 最大的优势项是工具调用，LFM2.5-VL-3B 这一代最大的新增能力也是函数调用。这不是巧合——它说明大家都想明白了：小模型不该自己什么都会，它该会的是知道找谁。