Qwen2.5-7B-Instruct
Qwen2.5系列7B级通用指令模型,官方称在知识、代码与数学能力上较前代增强,支持结构化输出与长上下文;131,072 tokens上下文需要YaRN配置。
最后核实:
https://huggingface.co/Qwen/Qwen2.5-7B-Instruct特点与限制
主要特点
- 官方卡标注总参数7.61B、非嵌入参数6.53B,28层、GQA 28/4
- 官方称改进指令跟随、长文本生成与结构化输出(尤其JSON)
- 官方称支持超过29种语言
- 官方卡标注上下文最长131,072 tokens、生成8192 tokens(默认config为32768)
- 官方推荐使用vLLM部署并链接官方文档
- 官方博客标注2024年9月发布
使用边界
- 131,072 tokens上下文需按官方卡添加YaRN配置;vLLM仅支持静态YaRN,短文本表现可能受影响。
- 官方模型卡本身不含评测数值,本条目评测来自Qwen2.5技术报告表格,且报告未披露完整评测配置。
- 与同系列Qwen2.5-Coder专用代码型号不同,本条目为通用Instruct版本,两类成绩不可混用。
- 本站未复现评测或部署。
模型信息
- 家族与版本
- Qwen / 2.5
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 7.61B(以以下来源口径为准)
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡标注总参数7.61B、非嵌入参数6.53B(28层,GQA 28 Q/4 KV);HF权重元数据safetensors张量参数和为7,615,616,512(约7.62B)。官方未另列激活或有效参数口径。 参数来源
- 原生上下文
- 32,768 tokens
- 扩展上下文
- 131,072 tokens;官方卡标注上下文最长131,072 tokens、生成8192 tokens;config.json默认32768 tokens,超过时需按卡片添加YaRN配置(factor 4.0、original_max_position_embeddings 32768),vLLM仅支持静态YaRN且可能影响短文本表现。
- 语言声明
- 多语言(官方卡称支持超过29种语言,含中文、英文、法文、西班牙文、葡萄牙文、德文、意大利文、俄文、日文、韩文、越南文、泰文、阿拉伯文等;Hub卡片元数据仅标注en);语言支持不代表对应语言的评测水平。
- 权重许可
- Apache-2.0
- 代码许可
- 未核实
- 训练资料
- 官方卡与博客提供训练与后训练概述(称代码与数学能力提升来自领域专家模型),未提供完整可复核的逐样本训练集清单。
能力依据
模型变体:指令版;家族与版本:Qwen / 2.5
文本生成
MMLU-Pro · accuracy56.3%MMLU-Pro · enMATH · accuracy75.5%MATH · en查看评估与来源收起补充信息
文本生成
通用知识与数学推理候选:官方技术报告表8列出MMLU-Pro 56.3与MATH 75.5,均为发布方自报,未披露提示、few-shot与采样配置,不能与外部统一条件横比。
- 报告在同一表内并列前代Qwen2-7B与Gemma2-9B、Llama3.1-8B等对照,档位定位可直接查看。
- 覆盖知识与数学两类指标,并区分指令模型章节。
- 报告未披露few-shot、提示模板、采样与输出长度等完整配置,不能与外部榜单直接横比。
- 英文基准不能直接代表中文长文写作与对话表现。
- 未找到许可明确且经核实的同型号独立复测。
- 本站未复现任何一项基准。
MMLU-Pro · accuracy
56.3%官方报告 · Qwen Team(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- Qwen2.5-7B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU-Pro / 未提供
- 基准 / 报告版本
- 报告未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列;该章节正文称该列为Qwen2.5-7B-Instruct。报告未披露few-shot、提示模板、采样与输出长度等完整评测配置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
- 来源
- https://arxiv.org/html/2412.15115v2
- 来源使用说明
- 引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
- 比较状态
- 不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。
MATH · accuracy
75.5%官方报告 · Qwen Team(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- Qwen2.5-7B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MATH / 未提供
- 基准 / 报告版本
- 报告未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列,MATH为75.5;正文点名该型号MATH优势。报告未披露few-shot、提示模板与解码等完整配置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
- 来源
- https://arxiv.org/html/2412.15115v2
- 来源使用说明
- 引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
- 比较状态
- 不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。
代码
HumanEval · score84.8%HumanEval · codeLiveCodeBench · score28.7%LiveCodeBench · code查看评估与来源收起补充信息
代码
代码生成候选:官方技术报告表8列出HumanEval 84.8与LiveCodeBench 28.7,覆盖函数级与竞赛式题目;仓库级工程任务没有官方成绩。
- 报告同时给出简单函数生成(HumanEval)与较难的竞赛式题目(LiveCodeBench)两类口径。
- 报告正文点名该型号代码能力优势。
- LiveCodeBench只覆盖算法题,不等价于真实仓库级工程任务。
- 报告未披露评测实现与生成配置;同系列Qwen2.5-Coder为专用代码型号,成绩不可混用。
- 本站未执行代码验证。
HumanEval · score
84.8%官方报告 · Qwen Team(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- Qwen2.5-7B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- HumanEval / 未提供
- 基准 / 报告版本
- 报告未注明数据版本
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列,HumanEval为84.8;正文点名该型号代码优势。报告未披露pass@1口径、提示与采样配置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
- 来源
- https://arxiv.org/html/2412.15115v2
- 来源使用说明
- 引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
- 比较状态
- 不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。
LiveCodeBench · score
28.7%官方报告 · Qwen Team(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- Qwen2.5-7B-Instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- LiveCodeBench / 未提供
- 基准 / 报告版本
- 报告未注明版本与题目时间窗口
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列,LiveCodeBench为28.7。报告未披露评测实现、题目时间窗口与生成配置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
- 来源
- https://arxiv.org/html/2412.15115v2
- 来源使用说明
- 引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
- 比较状态
- 不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;内存、显存和速度取决于精度、输入长度、运行时与硬件,不从参数量或文件体积推算资源保证。
内存:未核实;显存:未核实。
依赖:transformers(官方建议使用最新版;低于4.37.0会报KeyError: 'qwen2')、torch(官方示例使用torch_dtype与device_map)。
STEP 01 准备推理环境
官方卡要求使用最新版transformers,并提示低于4.37.0会出现KeyError: 'qwen2';模型卡未给出安装命令,命令留空。本站未执行安装。
STEP 02 加载模型并生成
按官方卡示例用AutoModelForCausalLM与AutoTokenizer加载Qwen/Qwen2.5-7B-Instruct,apply_chat_template组织多轮对话,示例max_new_tokens=512;超过32768 tokens的输入需按卡片添加YaRN配置。本站未下载权重或执行模型。