Granite 4.2 8B
Granite 4.2 家族中等规模稠密推理模型，内置思考链并支持三种思考模式，官方定位推理、代码生成、工具调用与代理工作流。
最后核实：
https://huggingface.co/ibm-granite/granite-4.2-8b特点与限制
主要特点
- 内置思考链（默认思考，另有非思考与低耗模式）
- 原生128K上下文，官方称可扩展至512K
- 推理增强的工具调用与结构化输出
- 官方在模型卡给出vLLM与SGLang的完整启动命令
- 2026年8月25日发布，Apache-2.0
使用边界
- 官方评测表未披露各成绩使用的思考模式等评测条件，分数不能与外部统一条件横比。
- 官方评测表部分代理基准行（如BirdBench、GDPval）未披露具体口径，本条目未收录。
- 本站未复现评测或部署。
模型信息
- 家族与版本
- Granite / 4.2
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 8B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型摘要标注8B；HF权重元数据safetensors张量参数合计8,791,592,960（约8.79B）。官方未给出更精确的公开口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 524,288 tokens；官方称长上下文可扩展至512K；未披露扩展方法细节。
- 语言声明
- 英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、中文；语言支持不代表对应语言的评测水平。
- 权重许可
- Apache-2.0
- 代码许可
- 未核实
- 训练资料
- 官方公开后训练流程（SFT四类语料、GRPO多环境强化学习与RLHF偏好对齐）并说明完整训练数据集清单在Granite 4.2 GitHub仓库；预训练细节引用Granite 4.1技术博客。
能力依据
模型变体：指令版；家族与版本：Granite / 4.2
文本生成
MMLU-Pro · accuracy74.04%MMLU-Pro · enAIME25 · accuracy86.67%AIME 2025 · en查看评估与来源收起补充信息
文本生成
可作为推理候选：官方评测表报告MMLU-Pro 74.04、AIME25 86.67。这些成绩来自发布方评测框架，未披露使用的思考模式。
- 官方表在同一列并列3B、8B与30B三个尺寸，档位定位可直接查看。
- 覆盖知识与数学两类指标，并说明评测基于NeMo Evaluator SDK框架。
- 未披露各成绩使用的思考模式（思考/非思考/低耗）与提示配置，不能与外部榜单直接横比。
- 官方表另有BFCL v4等工具调用成绩，因每条目评测收录上限未全部纳入。
- 本站未复现任何一项基准。
MMLU-Pro · accuracy
74.04%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-8b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU-Pro / 未提供
- 基准 / 报告版本
- 官方模型卡未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表（基于NeMo Evaluator SDK的评测框架运行）列Granite 4.2 8B的MMLU-Pro为74.04。未披露该成绩使用的思考模式、few-shot与提示配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-8b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-8b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、思考模式与具体评测配置，无法与统一条件下的其他成绩比较。
AIME25 · accuracy
86.67%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-8b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- AIME 2025 / 未提供
- 基准 / 报告版本
- 官方模型卡未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表列Granite 4.2 8B的AIME25为86.67。未披露该成绩使用的思考模式与评测配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-8b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-8b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、思考模式与评测配置，无法与统一条件下的其他成绩比较。
代码
LiveCodeBench v6 · score73.24%LiveCodeBench · codeSWE Bench Verified · resolve rate47.67%SWE-bench Verified · code查看评估与来源收起补充信息
代码
可作为代码生成与仓库级代理编码候选：官方LiveCodeBench v6为73.24%、SWE Bench Verified为47.67%。两项均来自发布方评测框架。
- 同时提供竞赛式代码生成与真实仓库修复两类成绩。
- 官方在模型卡给出把该型号接入OpenCode、OpenHands等代理工具的配置说明。
- 未披露思考模式、代理框架与运行配置，不能与外部榜单直接横比。
- 本站未在真实仓库或测试用例上验证生成代码。
LiveCodeBench v6 · score
73.24%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-8b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- LiveCodeBench / 未提供
- 基准 / 报告版本
- v6
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表的Reasoning分组列Granite 4.2 8B的LiveCodeBench v6为73.24。未披露该成绩使用的思考模式与评测配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-8b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-8b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、思考模式与评测配置，无法与统一条件下的其他成绩比较。
SWE Bench Verified · resolve rate
47.67%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.2-8b / 未提供
- 思考模式
- 未知
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- SWE-bench Verified / 未提供
- 基准 / 报告版本
- 官方模型卡未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方评测表的Agentic（Coding）分组列Granite 4.2 8B的SWE Bench Verified为47.67。未披露该成绩使用的思考模式、代理框架与运行配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-2-8b-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.2-8b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision、代理框架与运行配置，无法与统一条件下的其他成绩比较。
运行条件与获取
vLLM
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出该型号的内存或显存需求，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：vllm v0.20+（官方要求，用于granite_thinking_parser）。
STEP 01 准备推理解析器
官方要求使用仓库内的granite_thinking_parser.py（需vLLM v0.20+），命令中./granite_thinking_parser.py为仓库文件路径；工具调用解析器使用qwen3_coder。本站未下载或部署。
STEP 02 启动OpenAI兼容服务
官方给出的vLLM启动命令（原文为反斜杠续行的多行写法，此处合并为单行）；官方推荐generation参数为temperature 1.0、top_p 0.95、思考模式max_new_tokens 8192。本站未启动服务。
vllm serve ibm-granite/granite-4.2-8b --served-model-name granite-4.2-8b --dtype bfloat16 --max-model-len 131072 --reasoning-parser granite_thinking_parser --reasoning-parser-plugin ./granite_thinking_parser.py --tool-call-parser qwen3_coder --enable-auto-tool-choiceTransformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出资源需求，且官方示例使用device_map="cuda"，不代表本站验证过GPU部署。
内存：未核实；显存：未核实。
依赖：torch torchvision torchaudio、accelerate、transformers。
STEP 01 安装基础依赖
官方模型卡安装章节给出的第一条命令；本站未执行安装。
pip install torch torchvision torchaudioSTEP 02 安装推理依赖
官方模型卡安装章节给出的第二条命令。
pip install accelerate transformersSTEP 03 加载模型并生成
按官方示例用AutoModelForCausalLM与AutoTokenizer加载，apply_chat_template支持enable_thinking与low_effort参数；官方推荐temperature 1.0、top_p 0.95、do_sample=True。本站未下载权重或执行模型。
SGLang
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出该型号的内存或显存需求，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：SGLang v0.5.18+。
STEP 01 启动服务
官方给出的SGLang启动命令（原文为反斜杠续行的多行写法，此处合并为单行）；推理解析器与工具调用解析器使用auto。本站未启动服务。
python3 -m sglang.launch_server --model-path ibm-granite/granite-4.2-8b --dtype bfloat16 --context-length 131072 --reasoning-parser auto --tool-call-parser auto