MiniCPM4 0.5B
OpenBMB 面向端侧的 0.5B 级指令模型，主打极低算力下的中英文本生成。
最后核实：
https://huggingface.co/openbmb/MiniCPM4-0.5B特点与限制
主要特点
- 官方口径0.5B参数、1T训练token
- 原生32K上下文，技术报告给出稀疏注意力与长文本外推方案
- 官方提供Transformers与vLLM运行示例
- 技术报告5.1节说明主要在中英双语语料上预训练
使用边界
- 0.5B型号卡未包含8B卡中的LongRoPE扩展章节，128K长文扩展未在该型号卡上声明。
- 技术报告Table 8未披露该型号的提示模板、采样参数与各基准的指标定义（如shot数），成绩不能与外部榜单直接横比。
- 官方定位为端侧小模型，容量有限，复杂推理与长文任务表现需自行评估。
- 模型卡说明生成内容不代表开发者观点，需用户自行评估与核验。
- 本站未复现评测，也未在设备上运行模型。
模型信息
- 家族与版本
- MiniCPM / 4
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 0.5B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡标注0.5B参数、1T训练token；HF权重元数据safetensors张量参数和为433,873,920（约0.43B）。未另列激活或有效参数口径。 参数来源
- 原生上下文
- 32,768 tokens
- 扩展上下文
- 未提供
- 语言声明
- 中文、英语；语言支持不代表对应语言的评测水平。
- 权重许可
- Apache-2.0
- 代码许可
- 未核实
- 训练资料
- 官方卡与技术报告披露：0.5B版训练1T token（8B为8T）；预训练数据通过UltraClean清洗与生成（含中英双语网页数据UltraFinweb），监督微调数据来自UltraChat v2，训练采用ModelTunnel v2配置搜索、FP8计算与多token预测；未公开完整可复核的逐样本清单。
能力依据
模型变体：指令版；家族与版本：MiniCPM / 4
文本生成
MMLU · score55.55%MMLU · enCMMLU · score65.22%CMMLU · zhC-Eval · score66.11%C-Eval · zh查看评估与来源收起补充信息
文本生成
技术报告Table 8报告MMLU为55.55%、CMMLU为65.22%、C-Eval为66.11%、GSM8K为52.08%；报告同时说明官方训练数据为1T token，并称该0.5B型号在同规模对比中优于Llama3.2-1B与Gemma3-1B的中文表现。所有数值均缺少可复现的评测配置。
- 同表并列多个开源模型对照，且训练token规模一并标注，便于判断口径。
- 中文知识（CMMLU/C-Eval）与英文知识（MMLU）、数学分别报告，未合成单一总分。
- 报告未披露提示模板、采样参数、指标定义（shot数）与模型revision，不能与外部榜单直接横比。
- 官方称优于同规模对照模型时未给出统计显著性或误差范围。
- 0.5B容量有限，长文与复杂推理的可靠性需自行评估；官方卡未对该型号声明128K扩展。
- 未找到许可明确且确认为独立方的同型号复测；本站未复现任何一项基准。
MMLU · score
55.55%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- openbmb/MiniCPM4-0.5B / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU / 未提供
- 基准 / 报告版本
- MiniCPM4技术报告Table 8（标准评测）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；MiniCPM4技术报告Table 8为MiniCPM4与Qwen3、Llama3.2、Gemma3等开源模型的标准评测对比，该列标注0.5B参数、1T训练数据；报告未披露该行的模型revision、提示模板、采样与各基准指标定义。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- openbmb / minicpm4-0-5b-paper-table8
- 来源
- https://arxiv.org/abs/2506.07900
- 来源使用说明
- 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。 查看说明
- 比较状态
- 不可比：来源未披露足以复现和对齐的模型revision、提示模板、采样配置与指标定义；该结果仅记录原报告口径，不加入跨型号比较组。
CMMLU · score
65.22%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- openbmb/MiniCPM4-0.5B / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- CMMLU / 未提供
- 基准 / 报告版本
- MiniCPM4技术报告Table 8（标准评测）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；MiniCPM4技术报告Table 8中0.5B列的中文知识基准成绩；同表列出Llama3.2-1B为23.73、Gemma3-1B为25.09作为对照。报告未披露提示模板、采样与指标定义。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- openbmb / minicpm4-0-5b-paper-table8
- 来源
- https://arxiv.org/abs/2506.07900
- 来源使用说明
- 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。 查看说明
- 比较状态
- 不可比：来源未披露足以复现和对齐的模型revision、提示模板、采样配置与指标定义；该结果仅记录原报告口径，不加入跨型号比较组。
C-Eval · score
66.11%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- openbmb/MiniCPM4-0.5B / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- C-Eval / 未提供
- 基准 / 报告版本
- MiniCPM4技术报告Table 8（标准评测）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；MiniCPM4技术报告Table 8中0.5B列的中文综合基准成绩；同表列出Llama3.2-1B为36.74、Gemma3-1B为31.83作为对照。报告未披露提示模板、采样与指标定义。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- openbmb / minicpm4-0-5b-paper-table8
- 来源
- https://arxiv.org/abs/2506.07900
- 来源使用说明
- 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。 查看说明
- 比较状态
- 不可比：来源未披露足以复现和对齐的模型revision、提示模板、采样配置与指标定义；该结果仅记录原报告口径，不加入跨型号比较组。
GSM8K · score
52.08%官方报告 · MiniCPM Team / OpenBMB（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- openbmb/MiniCPM4-0.5B / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- GSM8K / 未提供
- 基准 / 报告版本
- MiniCPM4技术报告Table 8（标准评测）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；MiniCPM4技术报告Table 8中0.5B列的数学基准成绩；同表列出Llama3.2-1B为39.76、Gemma3-1B为61.26作为对照。报告未披露该行的shot数、采样与答案抽取方式。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- openbmb / minicpm4-0-5b-paper-table8
- 来源
- https://arxiv.org/abs/2506.07900
- 来源使用说明
- 引用来源；许可：未提供；仅引用MiniCPM4技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。 查看说明
- 比较状态
- 不可比：来源未披露足以复现和对齐的模型revision、shot数、采样与答案抽取配置；该结果仅记录原报告口径，不加入跨型号比较组。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；模型卡给出端侧芯片上的效率对比（如Jetson AGX Orin、RTX 4090），属官方特定平台的加速数据，不是本站测量，也不构成最低配置要求。
内存：未核实；显存：未核实。
依赖：transformers、torch。
STEP 01 准备运行环境
官方卡未给出固定依赖版本，示例需要 transformers 与 torch，并加载远程自定义代码（trust_remote_code=True）。本站未执行安装。
STEP 02 加载模型并推理
按官方示例用 AutoModelForCausalLM.from_pretrained('openbmb/MiniCPM4-0.5B', torch_dtype=torch.bfloat16, device_map=device, trust_remote_code=True) 加载，并用 apply_chat_template 生成提示后调用 generate。本站未下载权重或执行模型。
vLLM
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；显存占用取决于批大小、精度、上下文长度与vLLM版本，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：vllm（官方要求nightly预发布版）。
STEP 01 安装nightly版vLLM
官方卡给出 pip install -U vllm --pre --extra-index-url https://wheels.vllm.ai/nightly，此处按终端写法转换为 python -m pip 并保持同一索引参数。本站未执行安装。
python -m pip install -U vllm --pre --extra-index-url https://wheels.vllm.ai/nightlySTEP 02 启动OpenAI兼容服务
官方卡给出 vllm serve openbmb/MiniCPM4-0.5B；调用聊天接口时卡上提示需显式传 add_special_tokens=True，否则BOS等特殊token不会自动加入。本站未执行。
vllm serve openbmb/MiniCPM4-0.5B