文本生成代码

MiniCPM4 8B

OpenBMB 面向端侧的 8B 级指令模型，主打稀疏注意力与推理加速，官方定位中英文本生成与代码等通用任务。

最后核实：2026-10-17

https://huggingface.co/openbmb/MiniCPM4-8B

特点与限制

主要特点

官方口径8B参数、8T训练token
原生32K上下文；官方给出LongRoPE步骤并称已验证至131072
支持InfLLM v2稀疏注意力与FRSpec投机解码等加速组件
官方提供CPM.cu、Transformers、SGLang（fork）与vLLM等多条推理路线
技术报告5.1节说明主要在中英双语语料上预训练

使用边界

官方vLLM路线要求nightly预发布版、SGLang路线要求官方fork，版本约束需按卡核对。
启用InfLLM v2稀疏注意力需另装infllmv2_cuda_impl并配置sparse_config，属额外部署复杂度。
技术报告Table 8未披露该型号的提示模板、采样参数与各基准指标定义（如shot数），成绩不能与外部榜单直接横比。
模型卡声明生成内容不代表开发者观点，需用户自行评估与核验。
本站未复现评测，也未在设备上运行模型。

模型信息

家族与版本: MiniCPM / 4
输入与输出: 文本 → 文本
公开参数规模: 8B（以以下来源口径为准）
激活 / 有效参数: 未提供 / 未提供
参数口径: 官方模型卡标注8B参数、8T训练token；HF权重元数据safetensors张量参数和为8,185,253,888（约8.19B）。未另列激活或有效参数口径。参数来源
原生上下文: 32,768 tokens
扩展上下文: 131,072 tokens；官方模型卡说明原生支持32768，并给出修改config.json的LongRoPE factor步骤，称已验证至131072；技术报告5.3节表述为应用YaRN将上下文外推至128K并用NIAH评测。
语言声明: 中文、英语；语言支持不代表对应语言的评测水平。
权重许可: Apache-2.0
代码许可: 未核实
训练资料: 官方卡与技术报告披露：8B版训练8T token（0.5B为1T）；预训练数据通过UltraClean清洗与生成（含中英双语网页数据UltraFinweb），监督微调数据来自UltraChat v2，训练采用ModelTunnel v2配置搜索、FP8计算与多token预测；未公开完整可复核的逐样本清单。

能力依据

模型变体：指令版；家族与版本：MiniCPM / 4

文本生成

MMLU · score75.83%MMLU · en

CMMLU · score80.62%CMMLU · zh

C-Eval · score81.36%C-Eval · zh

查看评估与来源收起补充信息

仅官方依据4 条成绩 · 1 个评测来源 · 0 个独立来源

技术报告Table 8报告MMLU为75.83%、CMMLU为80.62%、C-Eval为81.36%、GSM8K为91.51%；官方称其8T训练token规模下成绩对标更大训练量的同规模模型，中文知识相对突出。所有数值均缺少可复现的评测配置。

已有依据支持

同表并列多个开源模型对照，且训练token规模一并标注，便于判断口径。
中文知识（CMMLU/C-Eval）与英文知识（MMLU）、数学分别报告，未合成单一总分。
上下文能力另有长文评测章节（NIAH 128K）与稀疏注意力效率说明。

证据限制

报告未披露提示模板、采样参数、指标定义（shot数）与模型revision，不能与外部榜单直接横比。
效率与长文结论来自官方自建评测配置（如稀疏注意力开/关），不能直接换算为通用吞吐保证。
模型卡声明生成内容不代表开发者观点，重要用途需自行评估与核验。
未找到许可明确且确认为独立方的同型号复测；本站未复现任何一项基准。

MMLU · score

MMLU · en · MiniCPM4技术报告Table 8（标准评测）

75.83%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测

MMLU · score · 越高越好 · en · 摘要引用

展开评测条件与来源

模型标识 / 修订: openbmb/MiniCPM4-8B / 未提供
思考模式: 不适用
量化 / 运行时: 未提供 / 未提供
数据集 / 划分: MMLU / 未提供
基准 / 报告版本: MiniCPM4技术报告Table 8（标准评测）
Few-shot / 输出上限: 未提供 / 未提供 tokens
提示模板 / 设置: 未提供；MiniCPM4技术报告Table 8为MiniCPM4与Qwen3、GLM4、Gemma3、LLaMA3.1、Phi4等开源模型的标准评测对比，该列标注8B参数、8T训练数据；报告未披露该行的模型revision、提示模板、采样与各基准指标定义。本站未复现。
评测日期 / 核实日期: 未提供 / 2026-10-17
评测身份: 官方自测
来源标识 / 评测批次: openbmb / minicpm4-8b-paper-table8
来源: https://arxiv.org/abs/2506.07900
来源使用说明: 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。查看说明
比较状态: 不可比：来源未披露足以复现和对齐的模型revision、提示模板、采样配置与指标定义；该结果仅记录原报告口径，不加入跨型号比较组。

CMMLU · score

CMMLU · zh · MiniCPM4技术报告Table 8（标准评测）

80.62%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测

CMMLU · score · 越高越好 · zh · 摘要引用

展开评测条件与来源

模型标识 / 修订: openbmb/MiniCPM4-8B / 未提供
思考模式: 不适用
量化 / 运行时: 未提供 / 未提供
数据集 / 划分: CMMLU / 未提供
基准 / 报告版本: MiniCPM4技术报告Table 8（标准评测）
Few-shot / 输出上限: 未提供 / 未提供 tokens
提示模板 / 设置: 未提供；MiniCPM4技术报告Table 8中8B列的中文知识基准成绩；同表列出GLM4-9B为74.49、Gemma3-12B为62.52作为对照。报告未披露提示模板、采样与指标定义。本站未复现。
评测日期 / 核实日期: 未提供 / 2026-10-17
评测身份: 官方自测
来源标识 / 评测批次: openbmb / minicpm4-8b-paper-table8
来源: https://arxiv.org/abs/2506.07900
来源使用说明: 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。查看说明
比较状态: 不可比：来源未披露足以复现和对齐的模型revision、提示模板、采样配置与指标定义；该结果仅记录原报告口径，不加入跨型号比较组。

C-Eval · score

C-Eval · zh · MiniCPM4技术报告Table 8（标准评测）

81.36%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测

C-Eval · score · 越高越好 · zh · 摘要引用

展开评测条件与来源

模型标识 / 修订: openbmb/MiniCPM4-8B / 未提供
思考模式: 不适用
量化 / 运行时: 未提供 / 未提供
数据集 / 划分: C-Eval / 未提供
基准 / 报告版本: MiniCPM4技术报告Table 8（标准评测）
Few-shot / 输出上限: 未提供 / 未提供 tokens
提示模板 / 设置: 未提供；MiniCPM4技术报告Table 8中8B列的中文综合基准成绩；同表列出GLM4-9B为74.09、Qwen3-8B为80.35作为对照。报告未披露提示模板、采样与指标定义。本站未复现。
评测日期 / 核实日期: 未提供 / 2026-10-17
评测身份: 官方自测
来源标识 / 评测批次: openbmb / minicpm4-8b-paper-table8
来源: https://arxiv.org/abs/2506.07900
来源使用说明: 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。查看说明
比较状态: 不可比：来源未披露足以复现和对齐的模型revision、提示模板、采样配置与指标定义；该结果仅记录原报告口径，不加入跨型号比较组。

GSM8K · score

GSM8K · en · MiniCPM4技术报告Table 8（标准评测）

91.51%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测

GSM8K · score · 越高越好 · en · 摘要引用

展开评测条件与来源

模型标识 / 修订: openbmb/MiniCPM4-8B / 未提供
思考模式: 不适用
量化 / 运行时: 未提供 / 未提供
数据集 / 划分: GSM8K / 未提供
基准 / 报告版本: MiniCPM4技术报告Table 8（标准评测）
Few-shot / 输出上限: 未提供 / 未提供 tokens
提示模板 / 设置: 未提供；MiniCPM4技术报告Table 8中8B列的数学基准成绩；同表列出Qwen3-8B为93.25、Gemma3-12B为94.16作为对照。报告未披露该行的shot数、采样与答案抽取方式。本站未复现。
评测日期 / 核实日期: 未提供 / 2026-10-17
评测身份: 官方自测
来源标识 / 评测批次: openbmb / minicpm4-8b-paper-table8
来源: https://arxiv.org/abs/2506.07900
来源使用说明: 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。查看说明
比较状态: 不可比：来源未披露足以复现和对齐的模型revision、shot数、采样与答案抽取配置；该结果仅记录原报告口径，不加入跨型号比较组。

代码

MBPP · score78.99%MBPP · en

HumanEval · score85.37%HumanEval · en

查看评估与来源收起补充信息

仅官方依据2 条成绩 · 1 个评测来源 · 0 个独立来源

技术报告Table 8报告MBPP为78.99%、HumanEval为85.37%，两项均与同表对照模型接近或略低；由于报告未说明判题与采样口径，只能作为官方自报的函数级代码能力信号。

已有依据支持

官方同时给出两个函数级代码基准数值，并列出对照模型。

证据限制

报告未说明指标是否为pass@1、也未给出提示模板与采样配置，无法与外部结果对齐比较。
函数级基准不能替代仓库级修改、依赖管理与长上下文代码任务验证。
本站未运行模型或复核生成代码。

MBPP · score

MBPP · en · MiniCPM4技术报告Table 8（标准评测）

78.99%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测

MBPP · score · 越高越好 · en · 摘要引用

展开评测条件与来源

模型标识 / 修订: openbmb/MiniCPM4-8B / 未提供
思考模式: 不适用
量化 / 运行时: 未提供 / 未提供
数据集 / 划分: MBPP / 未提供
基准 / 报告版本: MiniCPM4技术报告Table 8（标准评测）
Few-shot / 输出上限: 未提供 / 未提供 tokens
提示模板 / 设置: 未提供；MiniCPM4技术报告Table 8中8B列的Python入门级程序基准成绩；同表列出Qwen3-8B为77.04、Gemma3-12B为84.44作为对照。报告未说明该行是否为pass@1及其他采样配置。本站未复现。
评测日期 / 核实日期: 未提供 / 2026-10-17
评测身份: 官方自测
来源标识 / 评测批次: openbmb / minicpm4-8b-paper-table8
来源: https://arxiv.org/abs/2506.07900
来源使用说明: 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。查看说明
比较状态: 不可比：来源未披露足以复现和对齐的模型revision、判题与采样配置，也未说明指标是否为pass@1；该结果仅记录原报告口径，不加入跨型号比较组。

HumanEval · score

HumanEval · en · MiniCPM4技术报告Table 8（标准评测）

85.37%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测

HumanEval · score · 越高越好 · en · 摘要引用

展开评测条件与来源

模型标识 / 修订: openbmb/MiniCPM4-8B / 未提供
思考模式: 不适用
量化 / 运行时: 未提供 / 未提供
数据集 / 划分: HumanEval / 未提供
基准 / 报告版本: MiniCPM4技术报告Table 8（标准评测）
Few-shot / 输出上限: 未提供 / 未提供 tokens
提示模板 / 设置: 未提供；MiniCPM4技术报告Table 8中8B列的函数级代码基准成绩；同表列出Qwen3-8B为85.98、Gemma3-12B为83.54作为对照。报告未说明该行是否为pass@1及其他采样配置。本站未复现。
评测日期 / 核实日期: 未提供 / 2026-10-17
评测身份: 官方自测
来源标识 / 评测批次: openbmb / minicpm4-8b-paper-table8
来源: https://arxiv.org/abs/2506.07900
来源使用说明: 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。查看说明
比较状态: 不可比：来源未披露足以复现和对齐的模型revision、判题与采样配置，也未说明指标是否为pass@1；该结果仅记录原报告口径，不加入跨型号比较组。

运行条件与获取

Transformers

系统支持未提供 · Safetensors · 未指定量化

官方支持；本站尚未进行推理验证。

硬件：未核实。本站未实测；官方卡给出端侧芯片上的效率与加速对比（如Jetson AGX Orin、RTX 4090），属官方特定平台测量，不是本站结果，也不构成最低配置要求。

内存：未核实；显存：未核实。

依赖：transformers、torch。

STEP 01　准备运行环境

官方卡未给出固定依赖版本，示例需要 transformers 与 torch，并加载远程自定义代码（trust_remote_code=True）。本站未执行安装。

STEP 02　加载模型并推理

按官方示例用 AutoModelForCausalLM.from_pretrained('openbmb/MiniCPM4-8B', torch_dtype=torch.bfloat16, device_map=device, trust_remote_code=True) 加载，并用 apply_chat_template 生成提示后调用 generate；卡上另附稀疏注意力（需infllmv2_cuda_impl）与LongRoPE配置说明。本站未下载权重或执行模型。

获取权重官方部署指引部署前检查

CPM.cu

系统支持未提供 · Safetensors · 未指定量化

官方支持；本站尚未进行推理验证。

硬件：未核实。本站未实测；CPM.cu为CUDA推理框架，资源需求取决于GPU型号、量化与批大小，官方未给出通用最低配置。

内存：未核实；显存：未核实。

依赖：CUDA环境、cpm.cu（OpenBMB官方CUDA推理框架）。

STEP 01　获取并构建CPM.cu

官方卡展示的安装流程为：git clone https://github.com/OpenBMB/cpm.cu.git --recursive，然后进入cpm.cu目录执行 python3 setup.py install；需自行准备CUDA环境。本站未执行。

git clone https://github.com/OpenBMB/cpm.cu.git --recursive

STEP 02　运行长文本示例

官方卡称在按说明修改LongRoPE配置后，可在cpm.cu仓库内运行 python3 tests/test_generate.py 复现长文本加速效果；脚本会自动从Hugging Face下载权重，需在cpm.cu目录下执行。本站未执行。

python3 tests/test_generate.py

获取权重官方部署指引部署前检查

vLLM

系统支持未提供 · Safetensors · 未指定量化

官方支持；本站尚未进行推理验证。

硬件：未核实。本站未实测；显存占用取决于批大小、精度、上下文长度与vLLM版本，不将参数量或文件体积换算为资源保证。

内存：未核实；显存：未核实。

依赖：vllm（官方要求nightly预发布版）。

STEP 01　安装nightly版vLLM

官方卡给出 pip install -U vllm --pre --extra-index-url https://wheels.vllm.ai/nightly，此处按终端写法转换为 python -m pip 并保持同一索引参数。本站未执行安装。

python -m pip install -U vllm --pre --extra-index-url https://wheels.vllm.ai/nightly

STEP 02　启动OpenAI兼容服务

官方卡给出 vllm serve openbmb/MiniCPM4-8B；调用聊天接口时卡上提示需显式传 add_special_tokens=True，否则BOS等特殊token不会自动加入。本站未执行。

vllm serve openbmb/MiniCPM4-8B

获取权重官方部署指引部署前检查

查看官方模型资料