如果我告诉你，一个只有 10 亿参数（1B）的开源大模型，在综合能力测试中不仅超过了多个 3B、4B 模型，甚至把 Gemma 7B 和 Llama 7B 都甩在了身后，你会相信吗？
最近，OpenBMB 正式发布了 MiniCPM5-1B。虽然参数规模仅为 1B，但它却在多个公开评测中拿下了亮眼的名次，也让不少开发者重新认识了「小模型」的潜力。
那么，这款模型究竟有哪些亮点？它适合哪些用户？又该如何在本地部署？本文带大家一探究竟。
一、 MiniCPM5-1B 是什么？
MiniCPM5-1B 是 OpenBMB 推出的新一代轻量级开源语言模型。相比传统大模型，它最大的特点在于：
参数规模： 仅 1B（约10亿参数）。
上下文长度： 支持最长 131072 Token（128K）。
双模式支持： 支持 Think（深度思考）/ No Think（快速）双模式。
核心能力： 支持 Agent 工具调用与代码生成。
生态支持： 提供 GGUF、MLX、Transformers、vLLM、SGLang 等多个版本。
这意味着，无论是 Windows、本地 Linux、Mac，还是通过 Ollama、LM Studio、llama.cpp 等平台，用户都可以轻松将其部署在本地设备上。
二、 1B 参数，如何做到登顶排行榜？
MiniCPM5-1B 最令人惊讶的地方在于其综合性能。
根据 Artificial Analysis 最新公布的 Artificial Analysis Intelligence Index 数据，在 Sub-4B 开源模型排行榜中，MiniCPM5-1B 取得了 17.9分，位列第一！
它超越了众多同量级甚至更大参数的模型：
MiniCPM5-1B：17.9 分
Qwen3.5-2B：16.3 分
Nanbeige4 3B：16.1 分
NVIDIA Nemotron Nano 4B：14.7 分
MiniCPM4.0-1.3B：12.7 分
Ministral 3B：11.2 分
Gemma 3 270M：7.7 分
不仅如此，如果把对比范围扩大到更大参数的模型，它依然表现亮眼：
NVIDIA Nemotron Nano 4B：14.7 分
Gemma 7B：8.4 分
Llama 7B：8.1 分
注： 这类排行榜属于综合基准测试，主要反映模型在多个公开评测集上的整体表现，虽然不代表它在所有实际场景中绝对优于大模型，但足以证明其在轻量级模型中的恐怖竞争力。
三、 为什么 1B 模型能这么强？
近年来，大模型的发展方向已经不仅仅局限于「堆参数」。研究人员发现，通过以下维度的优化，小模型同样能爆发出巨大能量：
更高质量的数据
更先进的训练策略
更合理的模型架构
推理能力优化
官方表示，MiniCPM5-1B 重点提升了数学推理、代码生成、Agent 能力、多轮对话以及长文本理解，因此能在多个公开 Benchmark 中取得优异成绩。
1. 支持 128K 超长上下文
支持 131072 Token 的上下文，意味着它可以一次性读取极其庞大的内容，例如：
一整本电子书
大型项目源码
长篇学术论文
超长聊天记录
多份 PDF 文档
对于需要做知识整理、代码分析或长文总结的用户而言，体验远超传统 8K 或 32K 上下文的小模型。
2. Think 与 No Think 双模式
Think 模式： 适用于数学推理、编程、复杂逻辑、多步骤分析。模型会花更多时间思考，再给出答案。
No Think 模式： 适用于日常聊天、翻译、写作、问答。响应速度更快，更适合日常高频交互。 同一个模型即可无缝切换，无需下载多个版本。
四、 本地部署教程（以 llama.cpp 为例）
官方提供了 GGUF、MLX、Transformers 等多个版本，其中 GGUF 版本最适合普通用户通过 llama.cpp 部署。
1. 模型下载
Huggingface 打包下载:[点击前往]。
版本选型建议：
MiniCPM5-1B-F16（约 2.17GB）：满血全精度版，推荐下载。对显卡要求极低，只要显存有 2G 左右即可流畅运行，适合深度评测。
MiniCPM5-1B-Q8_0（约 1.15GB）：高质量量化版，适合显存低于 2G 的设备。
MiniCPM5-1B-Q4_K_M（约 688MB）：Q4 量化版，适合 CPU 或微型设备、日常聊天体验。
2. 部署步骤
下载并解压
llama.cpp压缩包。[点击下载]在解压后的根目录下创建一个名为
models的文件夹。将下载好的 GGUF 模型文件放入
models文件夹中。
3. 一键启动脚本
你可以将以下代码另存为 .bat 批处理文件（例如 run.bat），双击即可运行，内置了模型选择与 Think / No Think 模式切换：
代码段
@echo off
setlocal EnableDelayedExpansion
title MiniCPM5-1B Professional Launcher
:: ==========================
:: Configuration
:: ==========================
set MODEL_DIR=models
set PORT=8080
set CONTEXT=131072
if not exist "llama-server.exe" (
echo.
echo ERROR:
echo llama-server.exe not found.
pause
exit
)
:MODEL_MENU
cls
echo ================================================
echo MiniCPM5-1B Launcher
echo ================================================
echo.
echo Select Model:
echo.
echo 1. Q4_K_M
echo 2. Q8_0
echo 3. F16 (Recommended)
echo.
echo 0. Exit
echo.
set /p MODEL=
if "%MODEL%"=="1" (
set MODEL_FILE=MiniCPM5-1B-Q4_K_M.gguf
goto CHECK_MODEL
)
if "%MODEL%"=="2" (
set MODEL_FILE=MiniCPM5-1B-Q8_0.gguf
goto CHECK_MODEL
)
if "%MODEL%"=="3" (
set MODEL_FILE=MiniCPM5-1B-F16.gguf
goto CHECK_MODEL
)
if "%MODEL%"=="0" exit
goto MODEL_MENU
:CHECK_MODEL
if not exist "%MODEL_DIR%\%MODEL_FILE%" (
echo.
echo Model not found:
echo %MODEL_DIR%\%MODEL_FILE%
echo.
pause
goto MODEL_MENU
)
:MODE_MENU
cls
echo ================================================
echo Reasoning Mode
echo ================================================
echo.
echo 1. Think
echo 2. No Think
echo.
echo 0. Back
echo.
set /p MODE=
if "%MODE%"=="1" (
set THINK=1
goto START
)
if "%MODE%"=="2" (
set THINK=0
goto START
)
if "%MODE%"=="0" goto MODEL_MENU
goto MODE_MENU
:START
cls
if "%THINK%"=="1" (
set SYSTEM=You are a helpful AI assistant. Think carefully before answering.
set MODE_NAME=Think
)
if "%THINK%"=="0" (
set SYSTEM=You are a helpful AI assistant. Answer directly without exposing your reasoning.
set MODE_NAME=No Think
)
echo ================================================
echo Starting Server
echo ================================================
echo.
echo Model : %MODEL_FILE%
echo Mode : %MODE_NAME%
echo Context : %CONTEXT%
echo Port : %PORT%
echo.
echo Local Address: http://127.0.0.1:%PORT%
echo.
llama-server ^
-m "%MODEL_DIR%\%MODEL_FILE%" ^
-c %CONTEXT% ^
-ngl 999 ^
--flash-attn auto ^
--host 0.0.0.0 ^
--port %PORT% ^
--temp 0.6 ^
--top-p 0.95 ^
--min-p 0.05 ^
--repeat-penalty 1.05 ^
--seed -1
echo.
echo Server Stopped.
pause
五、 对接主流 Agent（如 Hermes、OpenClaw）
完成本地部署后，你还可以将该模型对接至 Hermes 或 OpenClaw 等主流 Agent 框架中：
下载 Hermes 本地调用支持包。【点击下载】
配置 API 地址（通常为
[http://127.0.0.1:8080](http://127.0.0.1:8080)）。对接成功后，即可直接在本地使用 MiniCPM5-1B 来执行复杂的 Agent 自动化任务。
总结
MiniCPM5-1B 作为一款仅有 10 亿参数的轻量级模型，凭借 128K 超长上下文、优秀的综合推理表现 以及 双思维模式，完美胜任了“小钢炮”的称号。如果你想在普通笔记本或低配电脑上体验大模型的魅力，不妨跟着本文的教程动手部署一个试试吧！
评论区