Granite 4.0 1B
Granite 4.0 Nano家族1B档位稠密指令模型，官方定位端侧与资源受限部署，覆盖摘要、抽取、RAG、代码与函数调用等能力。
最后核实：
https://huggingface.co/ibm-granite/granite-4.0-1b特点与限制
主要特点
- 官方架构表标注1B稠密档位总参数1.6B、序列长度128K、40层全注意力
- 官方称面向端侧部署与研究用例，小算力即可领域微调
- 官方列出摘要、分类、抽取、问答、RAG、代码、函数调用、多语言对话与FIM补全等能力
- 模型卡给出Transformers安装、生成与工具调用示例（含官方安装命令）
- 官方HF集合提供1B与H-1B的GGUF仓库（bf16及Q2_K至Q8_0多种量化）
- 2025年10月28日发布，Apache-2.0
使用边界
- 官方评测表未披露模型revision、提示模板与解码等完整评测配置，分数不能与外部统一条件横比。
- 官方说明指令微调数据以英文为主，多语言表现可能不及英文任务，可用少量示例（few-shot）辅助。
- 官方提示模型可能产生不准确、有偏见或不安全的回答，需按用途做安全测试与调优。
- 官方GGUF卡提示：模型常使用32位浮点数值全范围，较小数值范围的量化变体可能出现推理精度问题，F16变体在多种硬件组合上已知会失败，推荐bf16全精度变体。
- 本站未复现评测或部署。
模型信息
- 家族与版本
- Granite / 4.0
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 1.6B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡架构表1B稠密列标注总参数1.6B（含共享输入/输出嵌入）、激活参数1.6B；HF权重元数据safetensors张量参数和为1,631,750,144（约1.63B）。名称1B为档位，官方未另列有效参数口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 未提供
- 语言声明
- 英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、中文；语言支持不代表对应语言的评测水平。
- 权重许可
- Apache-2.0
- 代码许可
- 未核实
- 训练资料
- 模型卡说明SFT数据来自三部分：宽松许可的公开数据集、内部合成数据与人工整理数据；并公开训练方式（监督微调、强化学习、模型合并）与训练集群（NVIDIA GB200 NVL72，CoreWeave托管）；未提供完整逐样本语料清单。
能力依据
模型变体：指令版；家族与版本：Granite / 4.0
文本生成
MMLU · accuracy59.39%MMLU · enIFEval · score77.38%IFEval · en查看评估与来源收起补充信息
文本生成
端侧通用文本与指令跟随候选：官方评测表列出MMLU 5-shot 59.39与IFEval Average 77.38，并可在同表查看H-1B等档位对照；均为发布方自报，未披露完整评测配置。
- 官方表在同一列并列350M、H 350M、1B、H 1B四个档位，档位定位可直接查看。
- 覆盖知识（MMLU）与指令跟随（IFEval）两类指标。
- 官方卡未披露该成绩的模型revision、提示模板与解码配置，不能与外部榜单直接横比。
- 官方说明训练数据以英文为主，多语言表现可能不及英文任务。
- 未找到许可明确且经核实的同型号独立复测。
- 本站未复现任何一项基准。
MMLU · accuracy
59.39%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 5 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表1B Dense列的MMLU行（Metric列标注5-shot）为59.39；同表并列350M、H 350M、1B与H 1B四个档位。模型卡未披露模型revision、提示模板与解码等配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
IFEval · score
77.38%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- IFEval / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表1B Dense列的IFEval行取Average（同表另列Instruct Strict 80.82与Prompt Strict 73.94）。模型卡未披露模型revision与提示等配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
代码
HumanEval · pass@174%HumanEval · codeMBPP · pass@165%MBPP · code查看评估与来源收起补充信息
代码
轻型代码生成候选：官方评测表列出HumanEval pass@1 74与MBPP pass@1 65，可作为函数级代码生成参考；仓库级任务没有官方成绩。
- 官方以pass@1口径给出两项经典代码基准成绩。
- 同表可与H-1B及其余档位对照。
- HumanEval/MBPP只覆盖函数级题目，不等价于仓库级工程任务。
- 官方卡未披露模型revision与提示、采样配置；本站未执行代码验证。
HumanEval · pass@1
74%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- HumanEval / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表1B Dense列的HumanEval行（Metric列标注pass@1）为74。模型卡未披露模型revision、提示与采样配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
MBPP · pass@1
65%官方报告 · IBM Granite Team（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- ibm-granite/granite-4.0-1b / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MBPP / 未提供
- 基准 / 报告版本
- 官方评测表未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；IBM官方模型卡评测表1B Dense列的MBPP行（Metric列标注pass@1）为65。模型卡未披露模型revision、提示与采样配置；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- ibm-granite / granite-4-0-1b-card-eval-table
- 来源
- https://huggingface.co/ibm-granite/granite-4.0-1b
- 来源使用说明
- 引用来源；许可：未提供；仅摘录少量评测事实并署名链接，不覆盖模型卡原文或第三方内容许可。 查看说明
- 比较状态
- 不可比：官方卡未披露该成绩的模型revision与具体评测配置，无法与统一条件下的其他成绩比较。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方未给出该型号内存或显存需求，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：torch torchvision torchaudio（官方安装命令）、accelerate（官方安装命令）、transformers（官方安装命令）。
STEP 01 安装PyTorch系列
官方模型卡安装章节给出的第一条命令；本站未执行安装。
pip install torch torchvision torchaudioSTEP 02 安装accelerate
官方模型卡安装章节给出的第二条命令。
pip install accelerateSTEP 03 安装transformers
官方模型卡安装章节给出的第三条命令。
pip install transformersSTEP 04 加载模型并生成
按官方示例用AutoModelForCausalLM与AutoTokenizer加载ibm-granite/granite-4.0-1b，apply_chat_template组织对话；官方示例将device设为"cuda"并传给device_map，max_new_tokens=100，并注明在CPU上运行时可去掉device_map。本站未下载权重或执行模型。
STEP 05 可选：工具调用
官方卡提供按OpenAI函数定义schema组织tools并交给apply_chat_template的示例，模型以<tool_call>标签返回JSON工具调用。本站未运行示例。
llama.cpp
系统支持未提供 · GGUF · Q2_K、Q3_K_S/M/L、Q4_0、Q4_1、Q4_K_S/M、Q5_0、Q5_1、Q5_K_S/M、Q6_K、Q8_0、bf16（官方仓库所列）
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；内存占用取决于量化等级与运行时，不将文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：以官方指引为准。
STEP 01 获取官方GGUF文件
IBM官方GGUF仓库提供bf16与多种量化等级文件，可用于llama.cpp等GGUF兼容工具；本站未下载或运行。
STEP 02 注意已知精度问题
官方提示该模型常使用32位浮点数值全范围，较小数值范围的量化变体可能出现推理精度问题；F16变体在多种硬件组合上已知会失败，推荐使用bf16全精度变体。
STEP 03 按所选工具加载
官方GGUF仓库未给出具体加载命令，命令留空；量化等级、内存占用与速度需按所选工具与设备核对。