Granite 4.0 H-1B
Granite 4.0 Nano家族1B档位Mamba2/注意力混合架构指令模型（4层注意力+36层Mamba2），官方定位端侧部署、工具调用与代码任务。
最后核实：
https://huggingface.co/ibm-granite/granite-4.0-h-1b特点与限制
主要特点
- Mamba2/注意力混合架构：官方架构表标注4层注意力与36层Mamba2、NoPE位置编码
- 官方架构表标注H 1B总参数1.5B、激活参数1.5B、序列长度128K
- 官方称面向端侧部署与研究用例，小算力即可领域微调
- 官方列出摘要、分类、抽取、问答、RAG、代码、函数调用、多语言对话与FIM补全等能力
- 模型卡给出Transformers安装、生成与工具调用示例（含官方安装命令）
- 官方HF集合提供H-1B GGUF仓库（bf16及Q2_K至Q8_0多种量化）
- 2025年10月28日发布，Apache-2.0
使用边界
- 官方评测表未披露模型revision、提示模板与解码等完整评测配置，分数不能与外部统一条件横比。
- 官方说明指令微调数据以英文为主，多语言表现可能不及英文任务，可用少量示例（few-shot）辅助。
- 官方提示模型可能产生不准确、有偏见或不安全的回答，需按用途做安全测试与调优。
- 官方模型卡只给出Transformers用法；混合Mamba2架构在其他推理工具链上的用法与限制需另行核对官方仓库。
- 本站未复现评测或部署。
模型信息
- 家族与版本
- Granite / 4.0
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 1.5B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡架构表H 1B列标注总参数1.5B、激活参数1.5B（Mamba2/注意力混合架构，4层注意力+36层Mamba2）；HF权重元数据safetensors张量参数和为1,461,538,368（约1.46B）。名称H-1B为档位，官方未另列有效参数口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 未提供
- 语言声明
- 英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、中文；语言支持不代表对应语言的评测水平。
- 权重许可
- Apache-2.0
- 代码许可
- 未核实
- 训练资料
- 模型卡说明SFT数据来自三部分：宽松许可的公开数据集、内部合成数据与人工整理数据；并公开训练方式（监督微调、强化学习、模型合并）与训练集群（NVIDIA GB200 NVL72，CoreWeave托管）；未提供完整逐样本语料清单。
能力依据
模型变体：指令版；家族与版本：Granite / 4.0
文本生成
MMLU · accuracy59.74%MMLU · enIFEval · score78.53%IFEval · en查看评估与来源收起补充信息
文本生成
端侧通用文本与指令跟随候选：官方评测表列出MMLU 5-shot 59.74与IFEval Average 78.53，与同档稠密版互有高低；均为发布方自报，未披露完整评测配置。
- Mamba2/注意力混合架构，官方表在同一列并列该型号与同档稠密版、350M档位，定位可直接查看。
- 覆盖知识（MMLU）与指令跟随（IFEval）两类指标。
- 官方卡未披露该成绩的模型revision、提示模板与解码配置，不能与外部榜单直接横比。
- 官方说明训练数据以英文为主，多语言表现可能不及英文任务。
- 混合架构在其他推理工具链上的用法与限制模型卡未说明。
- 本站未复现任何一项基准。
MMLU · accuracy
59.74%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-h-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 5 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表H 1B Dense列的MMLU行（Metric列标注5-shot）为59.74；同表并列350M、H 350M、1B与H 1B四个档位。模型卡未披露模型revision、提示模板与解码等配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-h-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-h-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
IFEval · score
78.53%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-h-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- IFEval / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表H 1B Dense列的IFEval行取Average（同表另列Instruct Strict 82.37与Prompt Strict 74.68）。模型卡未披露模型revision与提示等配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-h-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-h-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
代码
HumanEval · pass@173%HumanEval · codeMBPP · pass@169%MBPP · code查看评估与来源收起补充信息
代码
轻型代码生成候选：官方评测表列出HumanEval pass@1 73与MBPP pass@1 69，可与同档稠密版对照；仓库级任务没有官方成绩。
- 官方以pass@1口径给出两项经典代码基准成绩。
- 同表可与H 350M、稠密1B等档位对照。
- HumanEval/MBPP只覆盖函数级题目，不等价于仓库级工程任务。
- 官方卡未披露模型revision与提示、采样配置；本站未执行代码验证。
HumanEval · pass@1
73%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-h-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- HumanEval / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表H 1B Dense列的HumanEval行（Metric列标注pass@1）为73。模型卡未披露模型revision、提示与采样配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-h-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-h-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
MBPP · pass@1
69%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-h-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MBPP / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表H 1B Dense列的MBPP行（Metric列标注pass@1）为69。模型卡未披露模型revision、提示与采样配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-h-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-h-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出该型号内存或显存需求，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：torch torchvision torchaudio（官方安装命令）、accelerate（官方安装命令）、transformers（官方安装命令）。
STEP 01 安装PyTorch系列
官方模型卡安装章节给出的第一条命令；本站未执行安装。
pip install torch torchvision torchaudioSTEP 02 安装accelerate
官方模型卡安装章节给出的第二条命令。
pip install accelerateSTEP 03 安装transformers
官方模型卡安装章节给出的第三条命令。
pip install transformersSTEP 04 加载模型并生成
按官方示例用AutoModelForCausalLM与AutoTokenizer加载ibm-granite/granite-4.0-h-1b，apply_chat_template组织对话；官方示例将device设为"cuda"并传给device_map，max_new_tokens=100，并注明在CPU上运行时可去掉device_map。本站未下载权重或执行模型。
STEP 05 可选：工具调用
官方卡提供按OpenAI函数定义schema组织tools并交给apply_chat_template的示例，模型以<tool_call>标签返回JSON工具调用。本站未运行示例。
llama.cpp
系统支持未提供 · GGUF · Q2_K、Q3_K_S/M/L、Q4_0、Q4_1、Q4_K_S/M、Q5_0、Q5_1、Q5_K_S/M、Q6_K、Q8_0、bf16（官方仓库所列）
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；内存占用取决于量化等级与运行时，不将文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：以官方指引为准。
STEP 01 获取官方GGUF文件
IBM官方GGUF仓库提供bf16与多种量化等级文件，可用于llama.cpp等GGUF兼容工具；本站未下载或运行。
STEP 02 按所选工具加载
官方GGUF仓库未给出具体加载命令，命令留空；量化等级、内存占用与速度需按所选工具与设备核对。