返回模型目录
文本生成代码

Qwen2.5-7B-Instruct

Qwen2.5系列7B级通用指令模型,官方称在知识、代码与数学能力上较前代增强,支持结构化输出与长上下文;131,072 tokens上下文需要YaRN配置。

最后核实:

https://huggingface.co/Qwen/Qwen2.5-7B-Instruct

特点与限制

主要特点

  • 官方卡标注总参数7.61B、非嵌入参数6.53B,28层、GQA 28/4
  • 官方称改进指令跟随、长文本生成与结构化输出(尤其JSON)
  • 官方称支持超过29种语言
  • 官方卡标注上下文最长131,072 tokens、生成8192 tokens(默认config为32768)
  • 官方推荐使用vLLM部署并链接官方文档
  • 官方博客标注2024年9月发布

使用边界

  • 131,072 tokens上下文需按官方卡添加YaRN配置;vLLM仅支持静态YaRN,短文本表现可能受影响。
  • 官方模型卡本身不含评测数值,本条目评测来自Qwen2.5技术报告表格,且报告未披露完整评测配置。
  • 与同系列Qwen2.5-Coder专用代码型号不同,本条目为通用Instruct版本,两类成绩不可混用。
  • 本站未复现评测或部署。

模型信息

家族与版本
Qwen / 2.5
输入与输出
文本 → 文本
公开参数规模
7.61B(以以下来源口径为准)
激活 / 有效参数
未提供 / 未提供
参数口径
官方模型卡标注总参数7.61B、非嵌入参数6.53B(28层,GQA 28 Q/4 KV);HF权重元数据safetensors张量参数和为7,615,616,512(约7.62B)。官方未另列激活或有效参数口径。 参数来源
原生上下文
32,768 tokens
扩展上下文
131,072 tokens;官方卡标注上下文最长131,072 tokens、生成8192 tokens;config.json默认32768 tokens,超过时需按卡片添加YaRN配置(factor 4.0、original_max_position_embeddings 32768),vLLM仅支持静态YaRN且可能影响短文本表现。
语言声明
多语言(官方卡称支持超过29种语言,含中文、英文、法文、西班牙文、葡萄牙文、德文、意大利文、俄文、日文、韩文、越南文、泰文、阿拉伯文等;Hub卡片元数据仅标注en);语言支持不代表对应语言的评测水平。
权重许可
Apache-2.0
代码许可
未核实
训练资料
官方卡与博客提供训练与后训练概述(称代码与数学能力提升来自领域专家模型),未提供完整可复核的逐样本训练集清单。

能力依据

模型变体:指令版;家族与版本:Qwen / 2.5

文本生成

MMLU-Pro · accuracy56.3%MMLU-Pro · en
MATH · accuracy75.5%MATH · en
查看评估与来源收起补充信息

仅官方依据2 条成绩 · 1 个评测来源 · 0 个独立来源

通用知识与数学推理候选:官方技术报告表8列出MMLU-Pro 56.3与MATH 75.5,均为发布方自报,未披露提示、few-shot与采样配置,不能与外部统一条件横比。

已有依据支持
  • 报告在同一表内并列前代Qwen2-7B与Gemma2-9B、Llama3.1-8B等对照,档位定位可直接查看。
  • 覆盖知识与数学两类指标,并区分指令模型章节。
证据限制
  • 报告未披露few-shot、提示模板、采样与输出长度等完整配置,不能与外部榜单直接横比。
  • 英文基准不能直接代表中文长文写作与对话表现。
  • 未找到许可明确且经核实的同型号独立复测。
  • 本站未复现任何一项基准。

MMLU-Pro · accuracy

MMLU-Pro · en · 报告未注明数据版本

56.3%官方报告 · Qwen Team(模型发布方自报)官方自测

MMLU-Pro · accuracy · 越高越好 · en · 摘要引用

展开评测条件与来源
模型标识 / 修订
Qwen2.5-7B-Instruct / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
MMLU-Pro / 未提供
基准 / 报告版本
报告未注明数据版本
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列;该章节正文称该列为Qwen2.5-7B-Instruct。报告未披露few-shot、提示模板、采样与输出长度等完整评测配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
来源
https://arxiv.org/html/2412.15115v2
来源使用说明
引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
比较状态
不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。

MATH · accuracy

MATH · en · 报告未注明数据版本

75.5%官方报告 · Qwen Team(模型发布方自报)官方自测

MATH · accuracy · 越高越好 · en · 摘要引用

展开评测条件与来源
模型标识 / 修订
Qwen2.5-7B-Instruct / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
MATH / 未提供
基准 / 报告版本
报告未注明数据版本
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列,MATH为75.5;正文点名该型号MATH优势。报告未披露few-shot、提示模板与解码等完整配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
来源
https://arxiv.org/html/2412.15115v2
来源使用说明
引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
比较状态
不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。

代码

HumanEval · score84.8%HumanEval · code
LiveCodeBench · score28.7%LiveCodeBench · code
查看评估与来源收起补充信息

仅官方依据2 条成绩 · 1 个评测来源 · 0 个独立来源

代码生成候选:官方技术报告表8列出HumanEval 84.8与LiveCodeBench 28.7,覆盖函数级与竞赛式题目;仓库级工程任务没有官方成绩。

已有依据支持
  • 报告同时给出简单函数生成(HumanEval)与较难的竞赛式题目(LiveCodeBench)两类口径。
  • 报告正文点名该型号代码能力优势。
证据限制
  • LiveCodeBench只覆盖算法题,不等价于真实仓库级工程任务。
  • 报告未披露评测实现与生成配置;同系列Qwen2.5-Coder为专用代码型号,成绩不可混用。
  • 本站未执行代码验证。

HumanEval · score

HumanEval · code · 报告未注明数据版本

84.8%官方报告 · Qwen Team(模型发布方自报)官方自测

HumanEval · score · 越高越好 · code · 摘要引用

展开评测条件与来源
模型标识 / 修订
Qwen2.5-7B-Instruct / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
HumanEval / 未提供
基准 / 报告版本
报告未注明数据版本
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列,HumanEval为84.8;正文点名该型号代码优势。报告未披露pass@1口径、提示与采样配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
来源
https://arxiv.org/html/2412.15115v2
来源使用说明
引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
比较状态
不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。

LiveCodeBench · score

LiveCodeBench · code · 报告未注明版本与题目时间窗口

28.7%官方报告 · Qwen Team(模型发布方自报)官方自测

LiveCodeBench · score · 越高越好 · code · 摘要引用

展开评测条件与来源
模型标识 / 修订
Qwen2.5-7B-Instruct / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
LiveCodeBench / 未提供
基准 / 报告版本
报告未注明版本与题目时间窗口
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Qwen2.5技术报告(arXiv:2412.15115v2)表8指令模型评测的Qwen2.5-7B列,LiveCodeBench为28.7。报告未披露评测实现、题目时间窗口与生成配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
qwen-team / qwen2-5-7b-instruct-qwen25-report-t8
来源
https://arxiv.org/html/2412.15115v2
来源使用说明
引用来源;许可:未提供;少量引用Qwen2.5技术报告中的评测事实;报告与评测结果的再分发许可未由权重Apache-2.0许可自动覆盖。 查看说明
比较状态
不可比:报告未披露可复现比较所需的模型revision、运行时与完整提示、生成配置;保留原始报告口径,不与其他记录排名。

运行条件与获取

Transformers

系统支持未提供 · Safetensors · 未指定量化

官方支持;本站尚未进行推理验证。

硬件:未核实。本站未实测;内存、显存和速度取决于精度、输入长度、运行时与硬件,不从参数量或文件体积推算资源保证。

内存:未核实;显存:未核实。

依赖:transformers(官方建议使用最新版;低于4.37.0会报KeyError: 'qwen2')、torch(官方示例使用torch_dtype与device_map)。

STEP 01 准备推理环境

官方卡要求使用最新版transformers,并提示低于4.37.0会出现KeyError: 'qwen2';模型卡未给出安装命令,命令留空。本站未执行安装。

STEP 02 加载模型并生成

按官方卡示例用AutoModelForCausalLM与AutoTokenizer加载Qwen/Qwen2.5-7B-Instruct,apply_chat_template组织多轮对话,示例max_new_tokens=512;超过32768 tokens的输入需按卡片添加YaRN配置。本站未下载权重或执行模型。

vLLM

系统支持未提供 · Safetensors · 未指定量化

官方支持;本站尚未进行推理验证。

硬件:未核实。本站未实测;显存占用取决于精度、上下文长度、批大小与vLLM版本,不从参数量或文件体积推算资源保证。

内存:未核实;显存:未核实。

依赖:vLLM(模型卡长文本章节推荐用于部署,未指定版本)。

STEP 01 按官方文档部署

模型卡长文本章节明确推荐使用vLLM部署并链接官方文档;模型卡未给出启动命令,命令留空。长文本需注意vLLM仅支持静态YaRN。本站未启动服务。

查看官方模型资料