Llama 3.2 3B Instruct
Meta 发布的 3B 级指令微调文本模型，定位在端侧与低算力设备的多语言对话、检索和摘要任务。
最后核实：
https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct特点与限制
主要特点
- 官方参数口径3B（3.21B），128K上下文
- 官方声明英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语、泰语8种支持语言
- 官方给出SpinQuant与QLoRA量化路线，并配套ExecuTorch端侧示例
- 官方示例按聊天消息格式（system/user）调用
使用边界
- 权重需在 Hugging Face 登录并接受 Llama 3.2 Community License；许可为自定义商业许可，含月活超7亿需另行申请等条款，并受可接受使用政策约束。
- 量化版本在卡片中标注的上下文为8K，与完整精度版的128K不同，选用量化权重时不能沿用128K口径。
- 官方基准由Meta内部评测库运行，未披露提示模板、解码参数与权重revision，不能与外部榜单直接横比。
- 模型卡未提供代码基准成绩，代码能力不能由语言或数学分数推断。
- 本站未复现官方评测，也未在设备上运行模型。
模型信息
- 家族与版本
- Llama / 3.2
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 3.21B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡参数表标注3B（3.21B）；HF权重元数据safetensors张量参数和为3,212,749,824（约3.21B）。未另列激活或有效参数口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 未提供
- 语言声明
- 英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语、泰语；语言支持不代表对应语言的评测水平。
- 权重许可
- Llama 3.2 Community License
- 代码许可
- 未核实
- 训练资料
- 官方模型卡披露：预训练最多9万亿token的公开来源数据，1B/3B在预训练阶段使用Llama 3.1 8B/70B的logits，并在剪枝后进行知识蒸馏；后训练沿用Llama 3.1配方（SFT、拒绝采样、DPO），知识截止2023年12月；未公开完整可复核的逐样本语料清单。
能力依据
模型变体：指令版；家族与版本：Llama / 3.2
文本生成
MMLU · accuracy（macro_avg/acc）63.4%MMLU · enIFEval · score（Avg(Prompt/Instruction acc Loose/Strict)）77.4%IFEval · enGSM8K · exact match（em_maj1@1）77.7%GSM8K · en查看评估与来源收起补充信息
文本生成
官方内部评测库报告MMLU 5-shot为63.4%、IFEval 0-shot为77.4%、GSM8K 8-shot CoT为77.7%、MGSM 0-shot CoT为58.2%。相比同代1B，指令遵循、数学与多语言推理都有明显提升，但仍低于Llama 3.1 8B对照，不代表目标场景表现。
- 官方在同一张表内并列1B/3B与Llama 3.1 8B对照，档位定位可直接查看。
- 指令遵循、数学与多语言推理各有独立口径，未混用为单一总分。
- 官方声明8种支持语言，并给出超出该集合时需自行评估的提示。
- 全部成绩由发布方内部评测库运行，未披露提示模板、解码参数与模型revision，不能与外部榜单直接横比。
- 多语言MGSM未按语种拆分，中文表现不能由该行推断。
- 官方定位为移动端与低算力对话场景，长文与知识密集任务的可靠性需自行评估。
- 未找到许可明确且确认为独立方的同型号同条件复测；本站未复现任何一项基准。
MMLU · accuracy（macro_avg/acc）
63.4%官方报告 · Meta（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-3B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表（bf16列）
- Few-shot / 输出上限
- 5 / 未提供 tokens
- 提示模板 / 设置
- 未提供；Meta官方模型卡说明全部结果由内部评测库运行；该表未披露提示模板、解码参数与权重revision，3B列同时列出量化（PTQ/SpinQuant/QLoRA）与Llama 3.1 8B对照。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-3b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct
- 来源使用说明
- 引用来源；许可：未提供；仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测库，未披露足以复现和对齐的模型revision、提示模板与解码配置；该结果仅记录原报告口径，不加入跨型号比较组。
IFEval · score（Avg(Prompt/Instruction acc Loose/Strict)）
77.4%官方报告 · Meta（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-3B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- IFEval / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表（bf16列）
- Few-shot / 输出上限
- 0 / 未提供 tokens
- 提示模板 / 设置
- 未提供；Meta官方模型卡0-shot结果，指标为Prompt/Instruction严格与宽松准确率平均；内部评测库运行，未披露提示模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-3b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct
- 来源使用说明
- 引用来源；许可：未提供；仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测库，未披露足以复现和对齐的模型revision与提示模板；该结果仅记录原报告口径，不加入跨型号比较组。
GSM8K · exact match（em_maj1@1）
77.7%官方报告 · Meta（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-3B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- GSM8K / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表（bf16列，CoT）
- Few-shot / 输出上限
- 8 / 未提供 tokens
- 提示模板 / 设置
- 未提供；Meta官方模型卡8-shot并启用思维链；同表列出1B为44.4、Llama 3.1 8B为84.5。内部评测库运行，未披露CoT模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-3b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct
- 来源使用说明
- 引用来源；许可：未提供；仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测库，未披露足以复现和对齐的模型revision、CoT模板与解码配置；该结果仅记录原报告口径，不加入跨型号比较组。
MGSM · exact match（em，CoT）
58.2%官方报告 · Meta（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-3B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MGSM / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表（bf16列，CoT）
- Few-shot / 输出上限
- 0 / 未提供 tokens
- 提示模板 / 设置
- 未提供；Meta官方模型卡0-shot并启用思维链，同表列出1B为24.5、Llama 3.1 8B为68.9；未披露语种范围、CoT模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-3b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct
- 来源使用说明
- 引用来源；许可：未提供；仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测库且未按语种拆分，未披露足以复现和对齐的模型revision、CoT模板与语种范围；该结果仅记录原报告口径，不加入跨型号比较组。
代码
暂无可靠公开成绩
查看评估与来源收起补充信息
代码
暂无可靠公开成绩
本轮未找到该型号可核对的代码基准成绩：官方模型卡的指令微调评测表覆盖通用知识、改写、摘要、指令遵循、数学、推理、工具调用、长上下文与多语言，但没有HumanEval、MBPP等代码行。语言或数学分数不能替代代码能力证据。
- 官方模型卡将输出模态标注为多语言文本与代码，并给出Transformers加载示例。
- 卡片给出量化与端侧推理路线，可支撑低算力试验。
- 官方能力表没有代码基准行，工具调用（BFCL V2/Nexus）与代码生成不是同一指标。
- 未找到许可明确且确认为独立方的同型号代码评测。
- 本站未在真实仓库或测试用例上验证生成代码。
暂无该用途的公开评测成绩；不能从其他用途或缺失值推断能力。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；模型卡另给出1B/3B在ExecuTorch（Android OnePlus 12、ARM CPU）上的量化解码速度与内存快照，属官方特定设备测量，不是本站结果，也不构成通用最低配置。
内存：未核实；显存：未核实。
依赖：transformers>=4.43.0、torch。
STEP 01 登录并接受许可
该仓库为需要手动确认的受限仓库，需在 Hugging Face 登录并接受 Llama 3.2 Community License 后才能获取权重；本站未执行。
STEP 02 准备运行环境
官方卡要求 transformers >= 4.43.0 才能对该系列做对话推理；官方给出的命令为 pip install --upgrade transformers，此处按终端写法转换为 python -m pip。本站未执行安装。
python -m pip install --upgrade transformersSTEP 03 加载模型并生成
按官方示例用 pipeline("text-generation", model="meta-llama/Llama-3.2-3B-Instruct", torch_dtype=torch.bfloat16, device_map="auto") 加载，并以 system/user 消息列表调用。本站未下载权重或执行模型。