Gemma 2 9B IT
Google 的 9B 档位指令微调模型，面向单卡与受限资源的英语文本生成与对话。
最后核实：
https://huggingface.co/google/gemma-2-9b-it特点与限制
主要特点
- 官方技术报告给出9.2B档位参数量（嵌入917,962,752与非嵌入8,324,201,984）
- 8192 token上下文，采用局部-全局注意力交错与GQA
- 官方提供Transformers、bitsandbytes 8/4bit量化与local-gemma CLI示例
- 官方卡给出必须按chat template使用的<start_of_turn>/<end_of_turn>对话格式
使用边界
- 权重受Gemma Terms of Use约束，下载前需接受条款；许可包含禁止使用政策（Gemma Prohibited Use Policy）。
- 官方模型卡与当前文档的能力基准表面向PT模型；IT型号在技术报告中只有MMLU/MBPP对照（Table 17）与安全评估表可用，缺少带完整配置的对话能力评测。
- 官方资料将输入输出说明为英语文本，其他语言未声明支持。
- 技术报告未披露Table 17中IT行的shot数、提示模板与解码配置，成绩不能直接与外部榜单横比。
- 本站未复现评测，也未在设备上运行模型。
模型信息
- 家族与版本
- Gemma / 2
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 9.2B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- Gemma 2技术报告Table 2给出该档位嵌入参数917,962,752与非嵌入参数8,324,201,984，合计9,242,164,736（约9.24B）；官方以9.2B/9B档位指称该型号。未另列激活或有效参数口径。 参数来源
- 原生上下文
- 8,192 tokens
- 扩展上下文
- 未提供
- 语言声明
- 英语（官方模型卡说明模型以英语文本为输入输出；未声明其他语言支持）；语言支持不代表对应语言的评测水平。
- 权重许可
- Gemma Terms of Use
- 代码许可
- 未核实
- 训练资料
- 官方模型卡披露训练数据由网页文档（主要为英语）、代码与数学文本组成：9B使用8万亿token、27B使用13万亿token，2B/9B采用知识蒸馏训练；做过CSAM与敏感数据过滤及内容质量安全过滤；未提供完整逐样本清单。
能力依据
模型变体：指令版；家族与版本：Gemma / 2
文本生成
MMLU · accuracy72.3%MMLU · enTruthfulQA · accuracy（MC2Acc）50.27%TruthfulQA · en查看评估与来源收起补充信息
文本生成
官方可用数据有限：技术报告Table 17报告IT版MMLU为72.3%（PT版71.3%），模型卡安全表报告TruthfulQA（MC2Acc）为50.27%。MMLU处于9B档位的知识水平，但两项均缺少可复现的提示与解码配置。
- 报告同时给出PT与IT成绩，可观察指令微调带来的变化。
- 模型卡有一组面向IT型号的安全与真实性指标，未被混用为通用能力总分。
- 官方能力基准表主要面向PT模型，IT型号没有MMLU-Pro、IFEval等完整能力评测行。
- Table 17的IT行未注明shot数与提示模板；TruthfulQA为安全评估口径。
- 官方说明输入输出为英语文本，不能据此外推中文能力。
- 未找到许可明确且确认为独立方的同型号条件对齐复测；本站未复现任何一项基准。
MMLU · accuracy
72.3%官方报告 · Google（模型发布方自报，Gemma 2技术报告）官方自测
展开评测条件与来源
- 模型标识 / 修订
- google/gemma-2-9b-it / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU / 未提供
- 基准 / 报告版本
- Gemma 2技术报告Table 17（PT与IT对照的few-shot基准）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；Gemma 2技术报告Table 17并列PT与IT成绩：9B为PT 71.3 / IT 72.3（2B为52.2/56.1）；报告说明IT模型对问题格式更稳健，但未单独重述IT行的shot数、提示模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- google / gemma-2-9b-it-gemma2-report-pt-it-table
- 来源
- https://arxiv.org/abs/2408.00118
- 来源使用说明
- 引用来源；许可：未提供；仅引用Gemma 2技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。 查看说明
- 比较状态
- 不可比：来源只给出PT/IT对照数值，未披露足以复现和对齐的模型revision、shot数、提示模板与解码配置；该结果仅记录原报告口径，不加入跨型号比较组。
TruthfulQA · accuracy（MC2Acc）
50.27%官方报告 · Google（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- google/gemma-2-9b-it / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- TruthfulQA / 未提供
- 基准 / 报告版本
- 官方模型卡Ethics and Safety评估结果（Gemma 2.0 IT表）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；Google官方模型卡在安全评估结果表中列出Gemma 2 IT 9B的TruthfulQA为50.27（2B为43.72）；同一数值在技术报告安全表（Table 18/20）中标注指标为MC2Acc。模型卡未披露该表提示模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- google / gemma-2-9b-it-gemma2-card-safety-table
- 来源
- https://ai.google.dev/gemma/docs/core/model_card_2
- 来源使用说明
- 引用来源；许可：未提供；仅摘录官方模型卡中的少量评测事实并署名链接；未复制报告表格或数据集。 查看说明
- 比较状态
- 不可比：来源未披露该成绩的模型revision、提示模板与完整评测配置，且该表以安全评估为目的；仅记录原始口径，不与外部榜单排名。
代码
MBPP · score59.2%MBPP · en查看评估与来源收起补充信息
代码
技术报告Table 17报告IT版MBPP为59.2%（PT版52.4%），是当前唯一可核对的该型号代码基准；高于同报告2B档位（36.6%），但不代表真实工程任务表现。
- 官方报告为该精确IT型号给出MBPP数值，并有PT对照。
- 报告未注明MBPP的shot数、采样与判题配置，无法与外部结果对齐比较。
- MBPP为函数级短程序基准，不能替代仓库级修改与调试任务验证。
- 本站未在真实项目中运行该模型。
MBPP · score
59.2%官方报告 · Google（模型发布方自报，Gemma 2技术报告）官方自测
展开评测条件与来源
- 模型标识 / 修订
- google/gemma-2-9b-it / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MBPP / 未提供
- 基准 / 报告版本
- Gemma 2技术报告Table 17（PT与IT对照的few-shot基准）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；Gemma 2技术报告Table 17并列PT与IT成绩：9B为PT 52.4 / IT 59.2（2B为30.2/36.6）；报告仅标注该表为few-shot基准，未注明MBPP的shot数、采样与判题配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- google / gemma-2-9b-it-gemma2-report-pt-it-table
- 来源
- https://arxiv.org/abs/2408.00118
- 来源使用说明
- 引用来源；许可：未提供；仅引用Gemma 2技术报告中的少量成绩事实并保留出处链接；不复制报告表格或图像。 查看说明
- 比较状态
- 不可比：来源只给出PT/IT对照数值，未披露足以复现和对齐的模型revision、shot数、采样与判题配置；该结果仅记录原报告口径，不加入跨型号比较组。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；显存与内存占用取决于精度、量化方式、上下文长度与运行时，不将参数量或文件体积换算为资源保证。
内存：未核实；显存：未核实。
依赖：transformers、torch、accelerate（device_map与多卡示例需要）。
STEP 01 接受许可
先阅读并接受Google Gemma Terms；Hugging Face还要求登录确认许可后才能取权重。本站未执行。
STEP 02 准备运行环境
官方卡给出 pip install -U transformers，此处按终端写法转换为 python -m pip；量化示例另需 bitsandbytes 与 accelerate。本站未执行安装。
python -m pip install -U transformersSTEP 03 加载模型并推理
按官方示例用 pipeline("text-generation", model="google/gemma-2-9b-it", model_kwargs={"torch_dtype": torch.bfloat16}) 加载，并用 tokenizer.apply_chat_template 生成对话提示；官方另给出bitsandbytes 8/4bit量化与torch.compile示例。本站未下载权重或执行模型。