Granite 4.2 3B
Granite 4.2 家族3B级稠密推理模型，内置思考链并支持三种思考模式，官方定位推理、代码生成、工具调用与代理工作流。
最后核实：
https://huggingface.co/ibm-granite/granite-4.2-3b特点与限制
主要特点
- 内置思考链（默认思考，另有非思考与低耗模式）
- 原生128K上下文，官方称可扩展至512K
- 推理增强的工具调用与结构化输出
- 官方在模型卡给出vLLM与SGLang的完整启动命令
- 2026年8月25日发布，Apache-2.0
使用边界
- 官方评测表未披露各成绩使用的思考模式等评测条件，分数不能与外部统一条件横比。
- 官方在评测表中将该型号的SWE-bench相关行与部分代理基准标为NA，这些方面没有官方成绩。
- 本站未复现评测或部署。
模型信息
- 家族与版本
- Granite / 4.2
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 3B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型摘要标注3B；HF权重元数据safetensors张量参数合计3,659,737,600（约3.66B）。官方未给出更精确的公开口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 524,288 tokens；官方称长上下文可扩展至512K；未披露扩展方法细节。
- 语言声明
- 英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、中文；语言支持不代表对应语言的评测水平。
- 权重许可
- Apache-2.0
- 代码许可
- 未核实
- 训练资料
- 官方公开后训练流程（SFT四类语料、GRPO多环境强化学习与RLHF偏好对齐）并说明完整训练数据集清单在Granite 4.2 GitHub仓库；预训练细节引用Granite 4.1技术博客。
能力依据
模型变体：指令版；家族与版本：Granite / 4.2
文本生成
MMLU-Pro · accuracy67.84%MMLU-Pro · enAIME25 · accuracy78.33%AIME 2025 · enBFCL v4 · score52.41%BFCL · en查看评估与来源收起补充信息
文本生成
可作为推理与工具调用候选：官方评测表报告MMLU-Pro 67.84、AIME25 78.33、BFCL v4 52.41。这些成绩来自发布方评测框架，未披露使用的思考模式。
- 官方表在同一列并列3B、8B与30B三个尺寸，档位定位可直接查看。
- 覆盖知识、数学与工具调用三类指标，并说明评测基于NeMo Evaluator SDK框架。
- 未披露各成绩使用的思考模式（思考/非思考/低耗）与提示配置，不能与外部榜单直接横比。
- 本站未复现任何一项基准。
MMLU-Pro · accuracy
67.84%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-3b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU-Pro / 未提供
- 基准 / 报告版本
- 官方模型卡未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表（基于NeMo Evaluator SDK的评测框架运行）列Granite 4.2 3B的MMLU-Pro为67.84。未披露该成绩使用的思考模式、few-shot与提示配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-3b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-3b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、思考模式与具体评测配置，无法与统一条件下的其他成绩比较。
AIME25 · accuracy
78.33%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-3b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- AIME 2025 / 未提供
- 基准 / 报告版本
- 官方模型卡未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表列Granite 4.2 3B的AIME25为78.33。未披露该成绩使用的思考模式与评测配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-3b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-3b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、思考模式与评测配置，无法与统一条件下的其他成绩比较。
BFCL v4 · score
52.41%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-3b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- BFCL / 未提供
- 基准 / 报告版本
- v4
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表的Agentic（General）分组列Granite 4.2 3B的BFCL (v4)为52.41。未披露该成绩使用的思考模式与运行配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-3b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-3b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、思考模式与运行配置，无法与统一条件下的其他成绩比较。
代码
LiveCodeBench v6 · score69.71%LiveCodeBench · code查看评估与来源收起补充信息
代码
可作为代码生成候选：官方LiveCodeBench v6为69.71%。官方表将该型号的SWE-bench与Terminal-Bench行标为NA，仓库级代理编码缺少成绩。
- 官方报告了该型号的编程竞赛式代码生成基准成绩。
- 官方评测表将该型号的SWE-bench相关行标为NA，代理式编码能力无官方成绩。
- 未披露思考模式与评测配置；本站未复现。
LiveCodeBench v6 · score
69.71%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-3b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- LiveCodeBench / 未提供
- 基准 / 报告版本
- v6
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表的Reasoning分组列Granite 4.2 3B的LiveCodeBench v6为69.71。未披露该成绩使用的思考模式与评测配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-3b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-3b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、思考模式与评测配置，无法与统一条件下的其他成绩比较。
运行条件与获取
vLLM
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出该型号的内存或显存需求，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：vllm v0.20+（官方要求，用于granite_thinking_parser）。
STEP 01 准备推理解析器
官方要求使用仓库内的granite_thinking_parser.py（需vLLM v0.20+），命令中./granite_thinking_parser.py为仓库文件路径；工具调用解析器使用qwen3_coder。本站未下载或部署。
STEP 02 启动OpenAI兼容服务
官方给出的vLLM启动命令（原文为反斜杠续行的多行写法，此处合并为单行）；官方推荐generation参数为temperature 1.0、top_p 0.95、思考模式max_new_tokens 8192。本站未启动服务。
vllm serve ibm-granite/granite-4.2-3b --served-model-name granite-4.2-3b --dtype bfloat16 --max-model-len 131072 --reasoning-parser granite_thinking_parser --reasoning-parser-plugin ./granite_thinking_parser.py --tool-call-parser qwen3_coder --enable-auto-tool-choiceTransformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出资源需求，且官方示例使用device_map="cuda"，不代表本站验证过GPU部署。
内存：未核实；显存：未核实。
依赖：torch torchvision torchaudio、accelerate、transformers。
STEP 01 安装基础依赖
官方模型卡安装章节给出的第一条命令；本站未执行安装。
pip install torch torchvision torchaudioSTEP 02 安装推理依赖
官方模型卡安装章节给出的第二条命令。
pip install accelerate transformersSTEP 03 加载模型并生成
按官方示例用AutoModelForCausalLM与AutoTokenizer加载，apply_chat_template支持enable_thinking与low_effort参数；官方推荐temperature 1.0、top_p 0.95、do_sample=True。本站未下载权重或执行模型。
SGLang
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出该型号的内存或显存需求，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：SGLang v0.5.18+。
STEP 01 启动服务
官方给出的SGLang启动命令（原文为反斜杠续行的多行写法，此处合并为单行）；推理解析器与工具调用解析器使用auto。本站未启动服务。
python3 -m sglang.launch_server --model-path ibm-granite/granite-4.2-3b --dtype bfloat16 --context-length 131072 --reasoning-parser auto --tool-call-parser autollama.cpp
系统支持未提供 · GGUF · Q2_K、Q3_K、Q4_0/Q4_1/Q4_K、Q5_0/Q5_1/Q5_K、Q6_K、Q8_0、bf16（仓库所列）
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；内存占用取决于量化等级与运行时，不将文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：以官方指引为准。
STEP 01 获取官方GGUF文件
IBM官方GGUF仓库提供多种量化等级的GGUF文件，可用于llama.cpp等GGUF兼容工具；本站未下载或运行。
STEP 02 按所选工具加载
官方GGUF仓库未给出具体加载命令，命令留空；量化等级、内存占用与速度需按所选工具与设备核对。