Llama 3.2 1B Instruct
Meta 发布的 1B 级指令微调文本模型,面向多语言对话、检索与摘要等端侧或低算力场景。
最后核实:
https://huggingface.co/meta-llama/Llama-3.2-1B-Instruct特点与限制
主要特点
- 官方参数口径1B(1.23B),128K上下文
- 官方声明英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语、泰语8种支持语言
- 官方给出SpinQuant与QLoRA量化路线,并配套ExecuTorch端侧示例
- 官方示例按聊天消息格式(system/user)调用
使用边界
- 权重需在 Hugging Face 登录并接受 Llama 3.2 Community License;许可为自定义商业许可,含月活超7亿需另行申请等条款,并受可接受使用政策约束。
- 量化版本在卡片中标注的上下文为8K,与完整精度版的128K不同,选用量化权重时不能沿用128K口径。
- 官方基准由Meta内部评测库运行,未披露提示模板、解码参数与权重revision,不能与外部榜单直接横比。
- 模型卡未提供代码基准成绩,代码能力不能由语言或数学分数推断。
- 本站未复现官方评测,也未在设备上运行模型。
模型信息
- 家族与版本
- Llama / 3.2
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 1.23B(以以下来源口径为准)
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡参数表标注1B(1.23B);HF权重元数据safetensors张量参数和为1,235,814,400(约1.24B)。未另列激活或有效参数口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 未提供
- 语言声明
- 英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语、泰语;语言支持不代表对应语言的评测水平。
- 权重许可
- Llama 3.2 Community License
- 代码许可
- 未核实
- 训练资料
- 官方模型卡披露:预训练最多9万亿token的公开来源数据,1B/3B在预训练阶段使用Llama 3.1 8B/70B的logits,并在剪枝后进行知识蒸馏;后训练沿用Llama 3.1配方(SFT、拒绝采样、DPO),知识截止2023年12月;未公开完整可复核的逐样本语料清单。
能力依据
模型变体:指令版;家族与版本:Llama / 3.2
文本生成
MMLU · accuracy(macro_avg/acc)49.3%MMLU · enIFEval · score(Avg(Prompt/Instruction acc Loose/Strict))59.5%IFEval · enGSM8K · exact match(em_maj1@1)44.4%GSM8K · en查看评估与来源收起补充信息
文本生成
官方内部评测库报告MMLU 5-shot为49.3%、IFEval 0-shot为59.5%、GSM8K 8-shot CoT为44.4%、MGSM 0-shot CoT为24.5%。这组数字显示其知识、指令遵循与数学推理处于轻量级档位,且多语言数学显著弱于英语任务,不代表目标场景表现。
- 官方在同一张表内并列1B/3B与Llama 3.1 8B对照,档位定位可直接查看。
- 指令遵循、数学与多语言推理各有独立口径,未混用为单一总分。
- 官方声明8种支持语言,并给出超出该集合时需自行评估的提示。
- 全部成绩由发布方内部评测库运行,未披露提示模板、解码参数与模型revision,不能与外部榜单直接横比。
- 多语言MGSM未按语种拆分,中文表现不能由该行推断。
- 模型容量有限,官方定位为轻量对话与改写场景,长文推理与知识密集任务需谨慎评估。
- 未找到许可明确且确认为独立方的同型号同条件复测;本站未复现任何一项基准。
MMLU · accuracy(macro_avg/acc)
49.3%官方报告 · Meta(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-1B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表(bf16列)
- Few-shot / 输出上限
- 5 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Meta官方模型卡说明全部结果由内部评测库运行;该表未披露提示模板、解码参数与权重revision,1B列同时列出量化(PTQ/SpinQuant/QLoRA)与3B对照。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-1b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-1B-Instruct
- 来源使用说明
- 引用来源;许可:未提供;仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接;不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比:来源使用发布方内部评测库,未披露足以复现和对齐的模型revision、提示模板与解码配置;该结果仅记录原报告口径,不加入跨型号比较组。
IFEval · score(Avg(Prompt/Instruction acc Loose/Strict))
59.5%官方报告 · Meta(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-1B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- IFEval / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表(bf16列)
- Few-shot / 输出上限
- 0 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Meta官方模型卡0-shot结果,指标为Prompt/Instruction严格与宽松准确率平均;内部评测库运行,未披露提示模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-1b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-1B-Instruct
- 来源使用说明
- 引用来源;许可:未提供;仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接;不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比:来源使用发布方内部评测库,未披露足以复现和对齐的模型revision与提示模板;该结果仅记录原报告口径,不加入跨型号比较组。
GSM8K · exact match(em_maj1@1)
44.4%官方报告 · Meta(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-1B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- GSM8K / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表(bf16列,CoT)
- Few-shot / 输出上限
- 8 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Meta官方模型卡8-shot并启用思维链;同表列出3B为77.7、Llama 3.1 8B为84.5。内部评测库运行,未披露CoT模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-1b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-1B-Instruct
- 来源使用说明
- 引用来源;许可:未提供;仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接;不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比:来源使用发布方内部评测库,未披露足以复现和对齐的模型revision、CoT模板与解码配置;该结果仅记录原报告口径,不加入跨型号比较组。
MGSM · exact match(em,CoT)
24.5%官方报告 · Meta(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- meta-llama/Llama-3.2-1B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MGSM / 未提供
- 基准 / 报告版本
- 官方模型卡Instruction Tuned Models表(bf16列,CoT)
- Few-shot / 输出上限
- 0 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Meta官方模型卡0-shot并启用思维链,同表列出3B为58.2、Llama 3.1 8B为68.9;未披露语种范围、CoT模板与解码配置。本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- meta / llama-3-2-1b-instruct-meta-card-instruct-table
- 来源
- https://huggingface.co/meta-llama/Llama-3.2-1B-Instruct
- 来源使用说明
- 引用来源;许可:未提供;仅摘录模型卡中的少量型号成绩并保留发布方署名与来源链接;不复制整表或底层基准数据。 查看说明
- 比较状态
- 不可比:来源使用发布方内部评测库且未按语种拆分,未披露足以复现和对齐的模型revision、CoT模板与语种范围;该结果仅记录原报告口径,不加入跨型号比较组。
代码
暂无可靠公开成绩
查看评估与来源收起补充信息
代码
暂无可靠公开成绩
本轮未找到该型号可核对的代码基准成绩:官方模型卡的指令微调评测表覆盖通用知识、改写、摘要、指令遵循、数学、推理、工具调用、长上下文与多语言,但没有HumanEval、MBPP等代码行。语言或数学分数不能替代代码能力证据。
- 官方模型卡将输出模态标注为多语言文本与代码,并给出Transformers加载示例。
- 卡片给出量化与端侧推理路线,可支撑低算力试验。
- 官方能力表没有代码基准行,工具调用(BFCL V2/Nexus)与代码生成不是同一指标。
- 未找到许可明确且确认为独立方的同型号代码评测。
- 本站未在真实仓库或测试用例上验证生成代码。
暂无该用途的公开评测成绩;不能从其他用途或缺失值推断能力。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;模型卡另给出1B/3B在ExecuTorch(Android OnePlus 12、ARM CPU)上的量化解码速度与内存快照,属官方特定设备测量,不是本站结果,也不构成通用最低配置。
内存:未核实;显存:未核实。
依赖:transformers>=4.43.0、torch。
STEP 01 登录并接受许可
该仓库为需要手动确认的受限仓库,需在 Hugging Face 登录并接受 Llama 3.2 Community License 后才能获取权重;本站未执行。
STEP 02 准备运行环境
官方卡要求 transformers >= 4.43.0 才能对该系列做对话推理;官方给出的命令为 pip install --upgrade transformers,此处按终端写法转换为 python -m pip。本站未执行安装。
python -m pip install --upgrade transformersSTEP 03 加载模型并生成
按官方示例用 pipeline("text-generation", model="meta-llama/Llama-3.2-1B-Instruct", torch_dtype=torch.bfloat16, device_map="auto") 加载,并以 system/user 消息列表调用。本站未下载权重或执行模型。