SenseVoiceSmall
非自回归语音理解模型,单个权重同时输出多语种转写、语种标记、情绪识别与音频事件标记,适合中文与粤语为主的低延迟转写场景。
最后核实:
https://huggingface.co/FunAudioLLM/SenseVoiceSmall特点与限制
主要特点
- 论文Table 7列SenseVoice-S为234M参数的非自回归端到端模型,支持中文、粤语、英语、日语、韩语
- 官方称同参数量级下比Whisper-Small快5倍以上、比Whisper-Large快15倍以上;论文Table 7给出RTF 0.007与10秒音频延迟70ms(A800、批量1口径)
- 除转写外同一模型输出语种、情绪与音频事件标记,官方提供rich_transcription_postprocess解析
- 官方模型卡给出funasr推理示例(VAD切分、use_itn、动态批处理参数说明)、ONNX与libtorch导出方式
- 官方同时提供llama.cpp/GGUF的CPU与边缘运行路线,运行时不依赖Python
使用边界
- 权重使用FunASR Model Open Source License Agreement v1.1,不是标准OSI许可:2.2条要求使用、复制、修改与分享时注明出处与作者信息并保留模型名称;官方在GitHub澄清商用允许(须遵守该协议)且第3条仅为责任与风险免责,该澄清只覆盖官方权重。
- 官方模型卡称SenseVoice系列支持50多种语言、训练超过40万小时,但论文Table 7与版本说明显示已发布的SenseVoiceSmall检查点支持中文、粤语、英语、日语、韩语五种语言,宣传口径与所发布检查点范围不同。
- 模型卡的基准图表以图片形式发布,本条目数值来自论文v3的Table 6;论文未披露各测试集的评测运行日期、数据划分细节与语料许可。
- 官方直接推理示例说明输入时长上限为30秒以内,更长音频需用VAD切分;长音频的实际时延取决于VAD与切分参数。
- SER与AED成绩未逐项收录:官方称AED为语音数据训练的附带能力,与专用事件检测模型仍有差距;情绪识别依赖测试集与标签口径。
- 官方GGUF转换版本仓库标注Apache-2.0,与官方权重的FunASR许可不同,使用前需分别核对;本站未实测识别准确率、语种与情绪标记。
模型信息
- 家族与版本
- SenseVoice / Small
- 输入与输出
- 音频 → 文本
- 公开参数规模
- 0.234B(以以下来源口径为准)
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 论文Table 7列SenseVoice-S参数为234M(0.234B),为非自回归编码器模型;该表同时列出支持语言zh、yue、en、ja、ko与效率指标。HF仓库未提供safetensors参数元数据,本记录采用论文口径。 参数来源
- 原生上下文
- 不适用
- 扩展上下文
- 不适用
- 语言声明
- 中文(普通话)、粤语、英语、日语、韩语;语言支持不代表对应语言的评测水平。
- 权重许可
- FunASR Model Open Source License Agreement v1.1
- 代码许可
- MIT
- 训练资料
- 官方模型卡称SenseVoice以超过40万小时数据训练;论文v3称SenseVoice在30万小时以上数据训练,并说明丰富转写标签由开源AED与SER模型生成伪标签(AED约1.5亿条、SER约3000万条)。未公开完整语料清单与逐数据集许可明细。
能力依据
模型变体:专用版;家族与版本:SenseVoice / Small
语音识别
FunAudioLLM论文公开语料评测(CER) · CER2.96%AISHELL-1 test · 中文FunAudioLLM论文公开语料评测(WER) · WER3.15%LibriSpeech test_clean · 英语FunAudioLLM论文公开语料评测(CER) · CER3.8%AISHELL-2 test_ios · 中文查看评估与来源收起补充信息
语音识别
可作为中文与粤语为主的低延迟转写候选:论文v3报告SenseVoice-S在AISHELL-1 test CER 2.96%、AISHELL-2 test_ios CER 3.80%、LibriSpeech test_clean WER 3.15%、Common Voice yue CER 7.09%,并给出RTF 0.007与10秒音频延迟70ms的效率数据。成绩为发布方在同一表格中的自测。
- 同一张表并列Whisper-S、Whisper-L-V3、SenseVoice-S/L与Paraformer-zh,指标与语言口径(中文用CER)写在正文中。
- 论文说明统一做了文本归一化与汉字简体化处理,评测条件描述较完整。
- 效率指标附机器与解码条件(A800、批量1、非自回归),可与精度结果对照。
- 官方模型卡同时提供funasr、ONNX/libtorch与llama.cpp/GGUF多条部署路线。
- 成绩由模型发布方运行,未找到许可明确且确认为独立方的同型号同条件复测。
- 论文未披露模型revision、音频分段方式、文本归一化实现与评测运行日;Common Voice未注明版本。
- LibriSpeech测试集上SenseVoice-S与Whisper-S接近,官方也说明在多数测试集之外的英文场景优势有限。
- 官方宣传的50多种语言属于更大规模SenseVoice工作的研究范围,已发布检查点官方标注为五种语言。
- SER与AED能力只有图片形式的报告与自报说明,本条未收录相应数值;本站未实测。
FunAudioLLM论文公开语料评测(CER) · CER
2.96%官方报告 · FunAudioLLM团队(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- FunAudioLLM/SenseVoiceSmall / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- AISHELL-1 test / test
- 基准 / 报告版本
- FunAudioLLM论文(arXiv 2407.04051v3)Table 6(中文与英文公开语料性能对比表)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;论文Table 6并列Whisper-S、Whisper-L-V3、SenseVoice-S、SenseVoice-L与Paraformer-zh,本行为SenseVoice-S的AISHELL-1 test 2.96。论文说明中文、粤语、日语、韩语、泰语用CER,其他语言用WER,并统一做文本归一化:真值与识别结果按Whisper方法标准化,汉字转简体并另接中文字符归一化脚本。论文未披露模型revision、音频分段方式与评分脚本细节;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- funaudiollm / funaudiollm-paper-v3-table6
- 来源
- https://arxiv.org/abs/2407.04051
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据,引用不更改论文及数据集许可。 查看说明
- 比较状态
- 不可比:来源未披露模型revision、音频分段与文本归一化实现细节、推理配置与评测运行日;该结果仅记录原论文口径,不加入跨型号比较组。
FunAudioLLM论文公开语料评测(CER) · CER
3.8%官方报告 · FunAudioLLM团队(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- FunAudioLLM/SenseVoiceSmall / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- AISHELL-2 test_ios / test_ios
- 基准 / 报告版本
- FunAudioLLM论文(arXiv 2407.04051v3)Table 6(中文与英文公开语料性能对比表)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;论文Table 6中SenseVoice-S行的AISHELL-2 test_ios 3.80;同一行另有AISHELL-1 test 2.96、WenetSpeech test_meeting 7.44与test_net 7.84。论文说明评测统一做文本归一化(汉字转简体并接中文字符归一化脚本),并列出与Whisper、Paraformer-zh的并列结果。论文未披露模型revision、音频分段与评分脚本细节;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- funaudiollm / funaudiollm-paper-v3-table6
- 来源
- https://arxiv.org/abs/2407.04051
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据,引用不更改论文及数据集许可。 查看说明
- 比较状态
- 不可比:来源未披露模型revision、音频分段与文本归一化实现细节、推理配置与评测运行日;该结果仅记录原论文口径,不加入跨型号比较组。
FunAudioLLM论文公开语料评测(WER) · WER
3.15%官方报告 · FunAudioLLM团队(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- FunAudioLLM/SenseVoiceSmall / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- LibriSpeech test_clean / test_clean
- 基准 / 报告版本
- FunAudioLLM论文(arXiv 2407.04051v3)Table 6(中文与英文公开语料性能对比表)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;论文Table 6中SenseVoice-S行的LibriSpeech test_clean 3.15,同一行test_other为7.18;英语按论文说明使用WER。论文指出SenseVoice在多数测试集上优于同规模Whisper,但LibriSpeech除外(该表Whisper-S为3.13、Whisper-L-V3为1.82)。论文未披露模型revision、音频分段与评分脚本细节;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- funaudiollm / funaudiollm-paper-v3-table6
- 来源
- https://arxiv.org/abs/2407.04051
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据,引用不更改论文及数据集许可。 查看说明
- 比较状态
- 不可比:来源未披露模型revision、音频分段与文本归一化实现细节、推理配置与评测运行日;该结果仅记录原论文口径,不加入跨型号比较组。
FunAudioLLM论文公开语料评测(CER) · CER
7.09%官方报告 · FunAudioLLM团队(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- FunAudioLLM/SenseVoiceSmall / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- Common Voice yue(论文未注明数据集版本) / 未提供
- 基准 / 报告版本
- FunAudioLLM论文(arXiv 2407.04051v3)Table 6(中文与英文公开语料性能对比表)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;论文Table 6中SenseVoice-S行的Common Voice yue 7.09,同表该语料Whisper-S为38.97、Whisper-L-V3为10.41;粤语按论文说明使用CER。同一组Common Voice还有zh-CN 10.78、en 14.71、ja 11.96、ko 8.28与五语平均10.56。论文未注明Common Voice版本、模型revision与评分脚本细节;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- funaudiollm / funaudiollm-paper-v3-table6
- 来源
- https://arxiv.org/abs/2407.04051
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据,引用不更改论文及数据集许可。 查看说明
- 比较状态
- 不可比:来源未注明Common Voice数据集版本与划分、模型revision及评分脚本细节,评测运行日也未披露;该结果仅记录原论文口径,不加入跨型号比较组。
运行条件与获取
FunASR(Python)
系统支持未提供 · PyTorch checkpoint(model.pt) · 未指定量化
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;论文Table 7的RTF 0.007与70ms延迟为A800机器、解码批量1的官方基准条件,不等于任意设备的资源需求。
内存:未核实;显存:未核实。
依赖:funasr>=1.3.26(官方说明SenseVoiceSmall示例要求)、torch、fsmn-vad(官方示例启用的VAD模型)。
STEP 01 安装 FunASR
官方仓库说明SenseVoiceSmall示例与组合的说话人日志流程需要funasr>=1.3.26,并建议已有环境执行升级;仓库另有当前部署路径使用funasr==1.4.14的说明。此处采用升级命令的终端写法。本站未执行。
pip install -U "funasr>=1.3.26"STEP 02 按官方示例加载模型并转写
官方HF模型卡示例用funasr.AutoModel加载此模型,启用vad_model="fsmn-vad"与max_single_segment_time=30000切分长音频,generate中language="auto"自动识别语种、use_itn控制标点与逆文本归一化、batch_size_s与merge_vad控制动态批处理与片段合并,结果经rich_transcription_postprocess解析。官方另给出短音频(<30s)关闭VAD并按batch_size批处理的写法。本站未下载权重或执行模型。
funasr-onnx
系统支持未提供 · ONNX(官方导出方式) · 未指定量化
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;ONNX量化后的内存占用与速度取决于运行设备与量化参数,官方未给出该路线的资源数值。
内存:未核实;显存:未核实。
依赖:funasr、funasr-onnx。
STEP 01 安装 ONNX 运行依赖
官方仓库ONNX导出示例给出的安装命令(示例中写作pip3 install -U funasr funasr-onnx);导出结果写回原模型目录。本站未执行。
pip install -U funasr funasr-onnxSTEP 02 按官方示例加载并转写
官方示例从funasr_onnx导入SenseVoiceSmall,指定模型目录、batch_size与quantize参数后直接推理;仓库使用ModelScope模型ID,HF来源需按本地路径或镜像配置调整。本站未下载权重或执行模型。
FunASR llama.cpp runtime(GGUF)
系统支持未提供 · GGUF(官方转换版本) · 官方仓库提供f16 GGUF文件
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;官方GGUF仓库称在CPU上约20倍实时,该说明为发布方口径,且转换版本的许可与权重许可需分别核对。
内存:未核实;显存:未核实。
依赖:llama-funasr-sensevoice预编译二进制或自行构建(官方Releases提供)、fsmn-vad.gguf(官方示例配套VAD文件)。
STEP 01 下载 GGUF 模型
官方仓库给出的下载脚本命令(在仓库runtime/llama.cpp目录下执行,参数指定sensevoice与输出目录);HF仓库FunAudioLLM/SenseVoiceSmall-GGUF亦提供权重。本站未执行。
bash runtime/llama.cpp/download-funasr-model.sh sensevoice ./ggufSTEP 02 用单二进制运行转写
官方示例用llama-funasr-sensevoice加载f16 GGUF与配套VAD文件转写音频;该路线不依赖Python与GPU。本站未获取二进制或执行推理。
llama-funasr-sensevoice -m ./gguf/sensevoice-small-f16.gguf --vad ./gguf/fsmn-vad.gguf -a audio.wav