LFM2.5-230M
230M端侧指令模型,官方定位数据抽取与轻量级端侧代理流水线,支持10种语言、函数调用与32,768 token上下文。
最后核实:
https://huggingface.co/LiquidAI/LFM2.5-230M特点与限制
主要特点
- 230M参数,14层(8个双门控卷积块+6个GQA块),词表65,536
- 32,768 token上下文,知识截止2024年年中
- 官方称解码速度为Galaxy S25 Ultra约213 tok/s、Raspberry Pi 5约42 tok/s(官方声明,本站未复现)
- 由LFM2.5-350M蒸馏并叠加多阶段强化学习,官方称面向工具调用与数据抽取
- 官方称发布即支持Transformers、vLLM、SGLang、llama.cpp、MLX与LM Studio,另提供GGUF、ONNX与MLX导出
- 支持函数调用(默认Python式调用,可切换JSON)
使用边界
- 官方明确不推荐重推理负载,如高难度数学、代码生成与创意写作。
- 权重采用LFM Open License v1.0:商用权利以年收入低于1000万美元为条件(许可第5节与定义将Threshold设为10,000,000美元年收入),超过该门槛的商业使用不在该许可范围内;非营利与研究用途不受门槛限制。
- 230M档容量有限,官方benchmark中MMLU-Pro为20.25、CaseReportBench为22.51,不适合知识密集任务。
- 知识截止2024年年中,时效性有限。
- 官方未披露评测的数据版本、提示模板与采样配置,成绩为发布方自测;本站未复现评测与官方速度数据。
模型信息
- 家族与版本
- LFM2.5 / 2.5
- 输入与输出
- 文本 → 文本
- 公开参数规模
- 0.23B(以以下来源口径为准)
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡标注230M参数(14层:8个双门控卷积块+6个GQA块);HF权重元数据safetensors张量参数合计229,693,184(约0.23B),与官方口径一致。纯文本模型,无视觉或音频组件。 参数来源
- 原生上下文
- 32,768 tokens
- 扩展上下文
- 未提供
- 语言声明
- 英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语;语言支持不代表对应语言的评测水平。
- 权重许可
- LFM Open License v1.0
- 代码许可
- 未核实
- 训练资料
- 官方公开训练口径:训练预算19T token;由LFM2.5-350M蒸馏并叠加多阶段强化学习;知识截止2024年年中。未公开训练数据清单。
能力依据
模型变体:指令版;家族与版本:LFM2.5 / 2.5
文本生成
MMLU-Pro · accuracy20.25%MMLU-Pro · enIFEval · score71.71%IFEval · enBFCLv3 · score43.26%BFCL · en查看评估与来源收起补充信息
文本生成
可作为端侧数据抽取与工具调用候选:官方benchmark表报告MMLU-Pro 20.25、IFEval 71.71、BFCLv3 43.26、CaseReportBench 22.51。成绩均来自发布方自测,且官方明确不推荐高难度数学、代码生成与创意写作。
- 官方表在同一行并列LFM2.5-350M、Granite 4.0/4.0-H-350M、Qwen3.5-0.8B与Gemma 3 1B IT等同规模对照模型。
- 覆盖知识与指令跟随、函数调用、结构化抽取(CaseReportBench)几个维度。
- 官方公开训练预算、层结构与知识截止时间,能力边界较清楚。
- 官方明确不推荐重推理负载,官方benchmark也未覆盖代码生成能力。
- MMLU-Pro 20.25与CaseReportBench 22.51显示知识密集与复杂抽取任务上限有限。
- 官方未披露基准数据版本、提示模板与采样配置,CaseReportBench未注明单位与语种;本站未复现任何一项基准。
MMLU-Pro · accuracy
20.25%官方报告 · Liquid AI(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- LiquidAI/LFM2.5-230M / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MMLU-Pro / 未提供
- 基准 / 报告版本
- 官方模型卡benchmark表(未注明数据版本)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Liquid AI官方模型卡benchmark表列出LFM2.5-230M列MMLU-Pro为20.25,同表并列LFM2.5-350M、Granite 4.0-H/4.0-350M、Qwen3.5-0.8B (Instruct)与Gemma 3 1B IT等对照模型。官方未披露该成绩的数据版本、模型revision、提示模板、few-shot与采样配置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- liquid-ai / lfm2-5-230m-benchmark-table
- 来源
- https://huggingface.co/LiquidAI/LFM2.5-230M
- 来源使用说明
- 引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可。 查看说明
- 比较状态
- 不可比:官方benchmark表未披露该成绩的数据版本、模型revision、提示模板与评测配置,无法与统一条件下的其他成绩比较。
IFEval · score
71.71%官方报告 · Liquid AI(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- LiquidAI/LFM2.5-230M / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- IFEval / 未提供
- 基准 / 报告版本
- 官方模型卡benchmark表(未注明数据版本)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Liquid AI官方模型卡benchmark表列出LFM2.5-230M列IFEval为71.71。官方未披露该成绩的数据版本、模型revision、提示模板、strict/loose口径与采样配置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- liquid-ai / lfm2-5-230m-benchmark-table
- 来源
- https://huggingface.co/LiquidAI/LFM2.5-230M
- 来源使用说明
- 引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可。 查看说明
- 比较状态
- 不可比:官方benchmark表未披露该成绩的数据版本、模型revision与评测配置,无法与统一条件下的其他成绩比较。
BFCLv3 · score
43.26%官方报告 · Liquid AI(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- LiquidAI/LFM2.5-230M / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- BFCL / 未提供
- 基准 / 报告版本
- v3
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Liquid AI官方模型卡第二张benchmark表列出LFM2.5-230M列BFCLv3为43.26,同表并列BFCLv4、CaseReportBench与τ²-Bench Telecom/Retail。官方未披露该成绩的数据版本、模型revision、运行配置与handler设置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- liquid-ai / lfm2-5-230m-benchmark-table
- 来源
- https://huggingface.co/LiquidAI/LFM2.5-230M
- 来源使用说明
- 引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可。 查看说明
- 比较状态
- 不可比:官方benchmark表未披露该成绩的数据版本、模型revision与运行配置,无法与统一条件下的其他成绩比较。
CaseReportBench · score
22.51 无单位(官方未注明)官方报告 · Liquid AI(模型发布方自报)官方自测
展开评测条件与来源
- 模型标识 / 修订
- LiquidAI/LFM2.5-230M / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- CaseReportBench / 未提供
- 基准 / 报告版本
- 官方模型卡benchmark表(未注明数据版本)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;Liquid AI官方模型卡第二张benchmark表列出LFM2.5-230M列CaseReportBench为22.51,同表列出LFM2-350M(11.67)与Granite 4.0-350M(0.84)等对照。官方未披露该基准的语种、数据版本、单位、模型revision与评测配置;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- liquid-ai / lfm2-5-230m-benchmark-table
- 来源
- https://huggingface.co/LiquidAI/LFM2.5-230M
- 来源使用说明
- 引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可;基准语料许可未在模型卡列明。 查看说明
- 比较状态
- 不可比:官方benchmark表未披露该基准的语种、单位、数据版本与评测配置,无法与统一条件下的其他成绩比较。
运行条件与获取
Transformers
系统支持未提供 · Safetensors · 未指定量化
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;官方列出Galaxy S25 Ultra约213 tok/s解码、Raspberry Pi 5约42 tok/s等设备数据,属于官方声明而非本站测量,不换算为通用资源保证。
内存:未核实;显存:未核实。
依赖:transformers>=5.0.0。
STEP 01 准备运行环境
官方快速开始说明兼容transformers>=5.0.0;模型卡未给出具体安装命令,命令留空;本站未执行安装。
STEP 02 加载模型并生成
按官方示例用AutoModelForCausalLM以bfloat16加载LiquidAI/LFM2.5-230M,并用tokenizer.apply_chat_template应用ChatML风格模板;官方推荐生成参数temperature 0.1、top_k 50、repetition_penalty 1.05、max_new_tokens 512。本站未下载权重或运行模型。
llama.cpp
系统支持未提供 · GGUF · 官方GGUF仓库提供多种量化等级(见仓库文件)
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;具体占用取决于量化等级与运行时,不将文件体积换算为资源保证。
内存:未核实;显存:未核实。
依赖:以官方指引为准。
STEP 01 获取GGUF量化权重
官方列出LFM2.5-230M-GGUF仓库,定位为面向llama.cpp及兼容工具的量化格式,用于端侧推理与本地部署;本站未下载权重。
STEP 02 按llama.cpp文档加载
官方推理表把llama.cpp列为支持框架并链接其项目;模型卡未给出具体加载命令,命令留空。