返回模型目录
文本生成

LFM2.5-230M

230M端侧指令模型,官方定位数据抽取与轻量级端侧代理流水线,支持10种语言、函数调用与32,768 token上下文。

最后核实:

https://huggingface.co/LiquidAI/LFM2.5-230M

特点与限制

主要特点

  • 230M参数,14层(8个双门控卷积块+6个GQA块),词表65,536
  • 32,768 token上下文,知识截止2024年年中
  • 官方称解码速度为Galaxy S25 Ultra约213 tok/s、Raspberry Pi 5约42 tok/s(官方声明,本站未复现)
  • 由LFM2.5-350M蒸馏并叠加多阶段强化学习,官方称面向工具调用与数据抽取
  • 官方称发布即支持Transformers、vLLM、SGLang、llama.cpp、MLX与LM Studio,另提供GGUF、ONNX与MLX导出
  • 支持函数调用(默认Python式调用,可切换JSON)

使用边界

  • 官方明确不推荐重推理负载,如高难度数学、代码生成与创意写作。
  • 权重采用LFM Open License v1.0:商用权利以年收入低于1000万美元为条件(许可第5节与定义将Threshold设为10,000,000美元年收入),超过该门槛的商业使用不在该许可范围内;非营利与研究用途不受门槛限制。
  • 230M档容量有限,官方benchmark中MMLU-Pro为20.25、CaseReportBench为22.51,不适合知识密集任务。
  • 知识截止2024年年中,时效性有限。
  • 官方未披露评测的数据版本、提示模板与采样配置,成绩为发布方自测;本站未复现评测与官方速度数据。

模型信息

家族与版本
LFM2.5 / 2.5
输入与输出
文本 → 文本
公开参数规模
0.23B(以以下来源口径为准)
激活 / 有效参数
未提供 / 未提供
参数口径
官方模型卡标注230M参数(14层:8个双门控卷积块+6个GQA块);HF权重元数据safetensors张量参数合计229,693,184(约0.23B),与官方口径一致。纯文本模型,无视觉或音频组件。 参数来源
原生上下文
32,768 tokens
扩展上下文
未提供
语言声明
英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语;语言支持不代表对应语言的评测水平。
权重许可
LFM Open License v1.0
代码许可
未核实
训练资料
官方公开训练口径:训练预算19T token;由LFM2.5-350M蒸馏并叠加多阶段强化学习;知识截止2024年年中。未公开训练数据清单。

能力依据

模型变体:指令版;家族与版本:LFM2.5 / 2.5

文本生成

MMLU-Pro · accuracy20.25%MMLU-Pro · en
IFEval · score71.71%IFEval · en
BFCLv3 · score43.26%BFCL · en
查看评估与来源收起补充信息

仅官方依据4 条成绩 · 1 个评测来源 · 0 个独立来源

可作为端侧数据抽取与工具调用候选:官方benchmark表报告MMLU-Pro 20.25、IFEval 71.71、BFCLv3 43.26、CaseReportBench 22.51。成绩均来自发布方自测,且官方明确不推荐高难度数学、代码生成与创意写作。

已有依据支持
  • 官方表在同一行并列LFM2.5-350M、Granite 4.0/4.0-H-350M、Qwen3.5-0.8B与Gemma 3 1B IT等同规模对照模型。
  • 覆盖知识与指令跟随、函数调用、结构化抽取(CaseReportBench)几个维度。
  • 官方公开训练预算、层结构与知识截止时间,能力边界较清楚。
证据限制
  • 官方明确不推荐重推理负载,官方benchmark也未覆盖代码生成能力。
  • MMLU-Pro 20.25与CaseReportBench 22.51显示知识密集与复杂抽取任务上限有限。
  • 官方未披露基准数据版本、提示模板与采样配置,CaseReportBench未注明单位与语种;本站未复现任何一项基准。

MMLU-Pro · accuracy

MMLU-Pro · en · 官方模型卡benchmark表(未注明数据版本)

20.25%官方报告 · Liquid AI(模型发布方自报)官方自测

MMLU-Pro · accuracy · 越高越好 · en · 摘要引用

展开评测条件与来源
模型标识 / 修订
LiquidAI/LFM2.5-230M / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
MMLU-Pro / 未提供
基准 / 报告版本
官方模型卡benchmark表(未注明数据版本)
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Liquid AI官方模型卡benchmark表列出LFM2.5-230M列MMLU-Pro为20.25,同表并列LFM2.5-350M、Granite 4.0-H/4.0-350M、Qwen3.5-0.8B (Instruct)与Gemma 3 1B IT等对照模型。官方未披露该成绩的数据版本、模型revision、提示模板、few-shot与采样配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
liquid-ai / lfm2-5-230m-benchmark-table
来源
https://huggingface.co/LiquidAI/LFM2.5-230M
来源使用说明
引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可。 查看说明
比较状态
不可比:官方benchmark表未披露该成绩的数据版本、模型revision、提示模板与评测配置,无法与统一条件下的其他成绩比较。

IFEval · score

IFEval · en · 官方模型卡benchmark表(未注明数据版本)

71.71%官方报告 · Liquid AI(模型发布方自报)官方自测

IFEval · score · 越高越好 · en · 摘要引用

展开评测条件与来源
模型标识 / 修订
LiquidAI/LFM2.5-230M / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
IFEval / 未提供
基准 / 报告版本
官方模型卡benchmark表(未注明数据版本)
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Liquid AI官方模型卡benchmark表列出LFM2.5-230M列IFEval为71.71。官方未披露该成绩的数据版本、模型revision、提示模板、strict/loose口径与采样配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
liquid-ai / lfm2-5-230m-benchmark-table
来源
https://huggingface.co/LiquidAI/LFM2.5-230M
来源使用说明
引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可。 查看说明
比较状态
不可比:官方benchmark表未披露该成绩的数据版本、模型revision与评测配置,无法与统一条件下的其他成绩比较。

BFCLv3 · score

BFCL · en · v3

43.26%官方报告 · Liquid AI(模型发布方自报)官方自测

BFCLv3 · score · 越高越好 · en · 摘要引用

展开评测条件与来源
模型标识 / 修订
LiquidAI/LFM2.5-230M / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
BFCL / 未提供
基准 / 报告版本
v3
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Liquid AI官方模型卡第二张benchmark表列出LFM2.5-230M列BFCLv3为43.26,同表并列BFCLv4、CaseReportBench与τ²-Bench Telecom/Retail。官方未披露该成绩的数据版本、模型revision、运行配置与handler设置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
liquid-ai / lfm2-5-230m-benchmark-table
来源
https://huggingface.co/LiquidAI/LFM2.5-230M
来源使用说明
引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可。 查看说明
比较状态
不可比:官方benchmark表未披露该成绩的数据版本、模型revision与运行配置,无法与统一条件下的其他成绩比较。

CaseReportBench · score

CaseReportBench · 官方未注明语种 · 官方模型卡benchmark表(未注明数据版本)

22.51 无单位(官方未注明)官方报告 · Liquid AI(模型发布方自报)官方自测

CaseReportBench · score · 越高越好 · 官方未注明语种 · 摘要引用

展开评测条件与来源
模型标识 / 修订
LiquidAI/LFM2.5-230M / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
CaseReportBench / 未提供
基准 / 报告版本
官方模型卡benchmark表(未注明数据版本)
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;Liquid AI官方模型卡第二张benchmark表列出LFM2.5-230M列CaseReportBench为22.51,同表列出LFM2-350M(11.67)与Granite 4.0-350M(0.84)等对照。官方未披露该基准的语种、数据版本、单位、模型revision与评测配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
liquid-ai / lfm2-5-230m-benchmark-table
来源
https://huggingface.co/LiquidAI/LFM2.5-230M
来源使用说明
引用来源;许可:未提供;仅摘录少量评测事实并署名链接,不覆盖模型卡原文或基准数据自身许可;基准语料许可未在模型卡列明。 查看说明
比较状态
不可比:官方benchmark表未披露该基准的语种、单位、数据版本与评测配置,无法与统一条件下的其他成绩比较。

运行条件与获取

Transformers

系统支持未提供 · Safetensors · 未指定量化

官方支持;本站尚未进行推理验证。

硬件:未核实。本站未实测;官方列出Galaxy S25 Ultra约213 tok/s解码、Raspberry Pi 5约42 tok/s等设备数据,属于官方声明而非本站测量,不换算为通用资源保证。

内存:未核实;显存:未核实。

依赖:transformers>=5.0.0。

STEP 01 准备运行环境

官方快速开始说明兼容transformers>=5.0.0;模型卡未给出具体安装命令,命令留空;本站未执行安装。

STEP 02 加载模型并生成

按官方示例用AutoModelForCausalLM以bfloat16加载LiquidAI/LFM2.5-230M,并用tokenizer.apply_chat_template应用ChatML风格模板;官方推荐生成参数temperature 0.1、top_k 50、repetition_penalty 1.05、max_new_tokens 512。本站未下载权重或运行模型。

llama.cpp

系统支持未提供 · GGUF · 官方GGUF仓库提供多种量化等级(见仓库文件)

官方支持;本站尚未进行推理验证。

硬件:未核实。本站未实测;具体占用取决于量化等级与运行时,不将文件体积换算为资源保证。

内存:未核实;显存:未核实。

依赖:以官方指引为准。

STEP 01 获取GGUF量化权重

官方列出LFM2.5-230M-GGUF仓库,定位为面向llama.cpp及兼容工具的量化格式,用于端侧推理与本地部署;本站未下载权重。

STEP 02 按llama.cpp文档加载

官方推理表把llama.cpp列为支持框架并链接其项目;模型卡未给出具体加载命令,命令留空。

查看官方模型资料