Phi-3.5-mini-instruct
3.8B稠密轻量模型，官方定位内存/算力受限环境与低延迟场景，支持128K上下文与多语言，2024年8月发布。
最后核实：
https://huggingface.co/microsoft/Phi-3.5-mini-instruct特点与限制
主要特点
- 官方卡标注3.8B稠密解码器模型、128K token上下文
- 官方定位：资源受限环境、低延迟场景与强推理（尤其代码、数学和逻辑）
- 官方称较2024年6月版Phi-3 Mini在多语言、多轮对话质量与推理能力上大幅提升
- 官方卡给出Transformers用法与依赖版本（Phi-3系列自transformers 4.43.0起集成）
- 官方评测覆盖知识、推理、数学、多语言、长上下文与代码生成
- MIT许可，官方标注2024年8月发布
使用边界
- 官方Benchmarks结果以completion format运行，提示与few-shot配置来自微软内部评测工具且未完整披露，不能与外部榜单直接横比。
- 官方明确说明模型容量有限、事实性知识存储能力受限，可能产生事实错误，建议配合检索（RAG）使用。
- 默认使用flash attention，V100及更早GPU需显式改为eager实现。
- 公开训练数据截止2023年10月，知识时效有限。
- 本站未复现官方基准或部署。
模型信息
- 家族与版本
- Phi / 3.5-mini
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 3.8B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡说明为3.8B稠密解码器模型（多语言章节表述为3.8B活跃参数、Benchmarks章节表述为3.8B-param）；HF权重元数据safetensors张量参数和为3,821,079,552（约3.82B）。官方未另列激活或有效参数口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 未提供
- 语言声明
- 阿拉伯语、中文、捷克语、丹麦语、荷兰语、英语、芬兰语、法语、德语、希伯来语、匈牙利语、意大利语、日语、韩语、挪威语、波兰语、葡萄牙语、俄语、西班牙语、瑞典语、泰语、土耳其语、乌克兰语；语言支持不代表对应语言的评测水平。
- 权重许可
- MIT
- 代码许可
- 未核实
- 训练资料
- 模型卡说明训练数据合计3.4万亿token，由严格筛选的公开文档与教育数据、代码，合成的教科书式数据，以及高质量对话监督数据组成；训练使用512张H100-80G、约10天，2024年6月至8月完成，公开数据截止2023年10月；后训练包含监督微调、PPO与DPO；未公开完整语料清单。
能力依据
模型变体：指令版；家族与版本：Phi / 3.5-mini
文本生成
MMLU · accuracy69%MMLU · enMMLU-Pro · accuracy47.4%MMLU-Pro · en查看评估与来源收起补充信息
文本生成
MMLU · accuracy69%MMLU · en
MMLU-Pro · accuracy47.4%MMLU-Pro · en
小尺寸知识问答候选：官方卡报告MMLU 5-shot为69、MMLU-Pro 0-shot CoT为47.4，并与Phi-4-mini等其他型号并列对照；均为发布方内部评测工具运行，未披露完整配置。
已有依据支持
- 官方表在同一表内并列Phi-3.0-Mini、Llama-3.1-8B、Gemma-2-9B等对照模型，档位定位可直接查看。
- 官方说明较2024年6月版在多语言与推理上大幅提升，并给出逐语言多语言MMLU结果。
证据限制
- 全部成绩由发布方内部工具以completion format运行，未完整披露提示、shot与解码配置，不能与外部榜单直接横比。
- 官方明确提示模型容量有限、事实性知识容易出错，建议配合检索使用。
- 公开数据截止2023年10月，知识时效有限。
- 未找到许可明确且经核实的同型号独立复测。
- 本站未复现任何一项基准。
MMLU · accuracy
69%官方报告 · Microsoft（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- microsoft/Phi-3.5-mini-instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU / 未提供
- 基准 / 报告版本
- 官方模型卡Benchmarks表（2024-08系列）
- Few-shot / 输出上限
- 5 / 未提供 tokens
- 提示模板 / 设置
- 未提供；微软官方模型卡Benchmarks表Phi-3.5 Mini-Ins列的MMLU行（5-shot）为69；模型卡说明全部数字以completion format、temperature 0运行，提示与shot配置来自微软内部评测工具且未完整披露；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- microsoft / microsoft-phi-3-5-mini-card-benchmarks
- 来源
- https://huggingface.co/microsoft/Phi-3.5-mini-instruct
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据，引用不更改模型卡或基准许可。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测工具，未披露足以复现和对齐的模型revision、提示模板与解码配置；该结果仅记录原报告口径，不加入跨型号比较组。
MMLU-Pro · accuracy
47.4%官方报告 · Microsoft（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- microsoft/Phi-3.5-mini-instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU-Pro / 未提供
- 基准 / 报告版本
- 官方模型卡Benchmarks表（2024-08系列）
- Few-shot / 输出上限
- 0 / 未提供 tokens
- 提示模板 / 设置
- 未提供；微软官方模型卡Benchmarks表Phi-3.5 Mini-Ins列的MMLU-Pro行（0-shot, CoT）为47.4；模型卡未披露具体CoT模板、采样参数与模型revision；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- microsoft / microsoft-phi-3-5-mini-card-benchmarks
- 来源
- https://huggingface.co/microsoft/Phi-3.5-mini-instruct
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据，引用不更改模型卡或基准许可。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测工具，未披露足以复现和对齐的模型revision、提示模板与解码配置；该结果仅记录原报告口径，不加入跨型号比较组。
代码
HumanEval · score62.8%HumanEval · codeMBPP · score69.6%MBPP · code查看评估与来源收起补充信息
代码
HumanEval · score62.8%HumanEval · code
MBPP · score69.6%MBPP · code
函数级代码生成候选：官方卡Code Generation分组列出HumanEval 0-shot 62.8与MBPP 3-shot 69.6；仓库级任务与真实项目修复没有官方成绩。
已有依据支持
- 官方卡单列代码生成分组，两项基准均为经典函数级题目。
- 官方定位包含代码与逻辑推理增强方向。
证据限制
- HumanEval/MBPP只覆盖函数级题目，不等价于仓库级工程任务。
- 模型卡未披露评测实现与生成配置；本站未在真实仓库或测试用例上验证生成代码。
HumanEval · score
62.8%官方报告 · Microsoft（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- microsoft/Phi-3.5-mini-instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- HumanEval / 未提供
- 基准 / 报告版本
- 官方模型卡Benchmarks表（2024-08系列）
- Few-shot / 输出上限
- 0 / 未提供 tokens
- 提示模板 / 设置
- 未提供；微软官方模型卡Benchmarks表Phi-3.5 Mini-Ins列Code Generation分组的HumanEval行（0-shot）为62.8；模型卡未披露评测实现（如pass@1口径）、提示与采样参数；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- microsoft / microsoft-phi-3-5-mini-card-benchmarks
- 来源
- https://huggingface.co/microsoft/Phi-3.5-mini-instruct
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据，引用不更改模型卡或基准许可。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测工具，未披露足以复现和对齐的模型revision、评测实现与解码配置；该结果仅记录原报告口径，不加入跨型号比较组。
MBPP · score
69.6%官方报告 · Microsoft（模型发布方自报）官方自测
展开评测条件与来源
- 模型标识 / 修订
- microsoft/Phi-3.5-mini-instruct / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MBPP / 未提供
- 基准 / 报告版本
- 官方模型卡Benchmarks表（2024-08系列）
- Few-shot / 输出上限
- 3 / 未提供 tokens
- 提示模板 / 设置
- 未提供；微软官方模型卡Benchmarks表Phi-3.5 Mini-Ins列Code Generation分组的MBPP行（3-shot）为69.6；模型卡未披露评测实现（如pass@1口径）、提示与采样参数；本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- microsoft / microsoft-phi-3-5-mini-card-benchmarks
- 来源
- https://huggingface.co/microsoft/Phi-3.5-mini-instruct
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡中的少量型号成绩并保留发布方署名与来源链接；不复制整表或底层基准数据，引用不更改模型卡或基准许可。 查看说明
- 比较状态
- 不可比：来源使用发布方内部评测工具，未披露足以复现和对齐的模型revision、评测实现与解码配置；该结果仅记录原报告口径，不加入跨型号比较组。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；官方说明默认使用flash attention并测试过A100、A6000与H100，该说明不是本站测量，也不构成最低配置要求。
内存：未核实；显存：未核实。
依赖：transformers==4.43.0（官方卡要求）、torch==2.3.1（官方卡要求）、accelerate==0.31.0（官方卡要求）、flash_attn==2.5.8（官方卡要求）。
STEP 01 按官方要求准备环境
官方模型卡列出依赖版本（transformers 4.43.0、torch 2.3.1、accelerate 0.31.0、flash_attn 2.5.8）并说明Phi-3系列自transformers 4.43.0起集成；模型卡未给出安装命令，命令留空。本站未执行安装，依赖与模型版本需保持匹配。
STEP 02 加载模型并生成
按官方卡Input Formats示例用聊天格式组织提示并用AutoModelForCausalLM与AutoTokenizer加载microsoft/Phi-3.5-mini-instruct；默认走flash attention，V100及更早GPU需改为attn_implementation="eager"。本站未下载权重或执行模型。