BGE-M3
统一支持稠密、稀疏词法与多向量三类检索表示的轻量多语嵌入模型。
最后核实:
https://huggingface.co/BAAI/bge-m3特点与限制
主要特点
- 1024维稠密向量
- 同一权重同时输出稀疏词法权重与ColBERT多向量表示
- 官方声明支持100多种工作语言
- 最大输入长度8192 tokens
使用边界
- 三类表示需在检索系统中分别接入与融合;只按稠密向量使用会低于论文报告的融合成绩。
- 官方模型卡未单列参数量,页面参数规模按公开部署口径记录,不代表发布方逐组件披露。
- 论文成绩是发布方在固定基准上的运行结果,本站未在自有语料复现检索效果。
模型信息
- 家族与版本
- BGE / M3
- 输入与输出
- 文本 → 向量
- 公开参数规模
- 0.568B(以以下来源口径为准)
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡未单列参数量;该型号在XLM-RoBERTa-large骨干上增加稠密、稀疏与ColBERT三类表示头,本记录沿用约568M的公开部署口径,未从权重文件大小反推。 参数来源
- 原生上下文
- 8,192 tokens
- 扩展上下文
- 未提供
- 语言声明
- 多语言(官方声明支持100多种工作语言);语言支持不代表对应语言的评测水平。
- 权重许可
- MIT
- 代码许可
- MIT
- 训练资料
- 论文披露无监督预训练数据来源与规模(MTP、S2ORC、Wikipedia、xP3、mC4、CC-News、NLLB、CCMatrix、CodeSearchNet,合计约1.2B文本对)及微调数据来源;未公开可直接复核的完整原始语料。
能力依据
模型变体:专用版;家族与版本:BGE / M3
向量检索
MIRACL · nDCG@1071.5分(0–100)MIRACL dev set(18种语言) · 多语言(18种语言)MKQA · Recall@10075.5分(0–100)MKQA(25种非英语查询,检索英文维基语料) · 跨语言(25种查询语言对英语语料)MLDR · nDCG@1065分(0–100)MLDR test set(13种语言的长文档检索) · 多语言(13种语言)查看评估与来源收起补充信息
向量检索
MIRACL · nDCG@1071.5分(0–100)MIRACL dev set(18种语言) · 多语言(18种语言)
MKQA · Recall@10075.5分(0–100)MKQA(25种非英语查询,检索英文维基语料) · 跨语言(25种查询语言对英语语料)
MLDR · nDCG@1065分(0–100)MLDR test set(13种语言的长文档检索) · 多语言(13种语言)
可作为多语言与跨语言检索候选:论文v5报告M3.All在MIRACL nDCG@10为71.5、MKQA Recall@100为75.5、MLDR nDCG@10为65.0。三项均为稠密、稀疏与多向量融合后的结果,只部署稠密向量时不能引用这些数值。
已有依据支持
- 论文在同一张表内并列BM25、M3.Sparse与M3.All,融合表示与单一表示的差异可查。
- 覆盖多语言检索、跨语言检索与长文档检索三类场景,指标口径写在表标题中。
证据限制
- 成绩由模型发布方运行,未找到许可明确且确认为独立方的同型号同条件复测。
- 71.5等数值是三类表示融合结果,不是稠密向量单独成绩;论文v5 Table 1的M3.Dense为69.2。论文未披露这些成绩的实际运行日期。
- MLDR由论文作者构建且其训练集参与训练增强,与其他基线对比时存在该差异。
- 长文档与跨语言表现依赖切分与检索系统实现,本站未在自有语料验证。
MIRACL · nDCG@10
71.5 分(0–100)官方报告 · BAAI(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- BAAI/bge-m3 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MIRACL dev set(18种语言) / dev
- 基准 / 报告版本
- M3-Embedding论文v5 Table 1(M3.All行)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;v5论文报告值,对应M3.All,即稠密、稀疏与多向量三类表示融合后的结果,不是单一稠密表示成绩;同表M3.Dense为69.2。BAAI于2024-07-01公告修正MIRACL评测;该日期是修正公告日期,论文未披露本次评测运行日。评测按官方基准使用Pyserini,逐语言结果见Table 1;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-14
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- baai / baai-m3-paper-v5
- 来源
- https://arxiv.org/html/2402.03216v5
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据,引用不更改论文及数据集许可。 查看说明
- 比较状态
- 不可比:来源未披露足以复现和统一对齐的完整模型revision、编码配置与硬件条件;该结果仅记录原论文口径,不加入跨型号比较组。
MKQA · Recall@100
75.5 分(0–100)官方报告 · BAAI(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- BAAI/bge-m3 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MKQA(25种非英语查询,检索英文维基语料) / 未提供
- 基准 / 报告版本
- M3-Embedding论文v5 Table 2(M3.All行),逐语言结果见Table 2
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;v5论文报告值,对应M3.All融合结果;评测语料使用BEIR提供的英文维基处理版本。BAAI于2024-07-01公告MIRACL修正,MKQA结果未受该修正影响;该日期是公告日期,论文未披露本项评测运行日。论文未在该表披露模型revision、编码精度与硬件条件;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-14
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- baai / baai-m3-paper-v5
- 来源
- https://arxiv.org/html/2402.03216v5
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据,引用不更改论文及数据集许可。 查看说明
- 比较状态
- 不可比:来源未披露足以复现和统一对齐的完整模型revision、编码配置与语料处理版本;该结果仅记录原论文口径,不加入跨型号比较组。
MLDR · nDCG@10
65 分(0–100)官方报告 · BAAI(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- BAAI/bge-m3 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MLDR test set(13种语言的长文档检索) / test
- 基准 / 报告版本
- M3-Embedding论文v5 Table 3(M3.All行),逐语言结果见Table 3
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;v5论文报告值,对应M3.All融合结果。BAAI于2024-07-01公告MIRACL修正,MLDR结果未受该修正影响;该日期是公告日期,论文未披露本项评测运行日。MLDR为论文作者自行构建并开源的文档检索数据集,且其训练集用于增强长文档检索能力,论文提示与未使用长文档数据微调的基线比较需注意该差异;本站未复现。
- 评测日期 / 核实日期
- 未提供 / 2026-10-14
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- baai / baai-m3-paper-v5
- 来源
- https://arxiv.org/html/2402.03216v5
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据,引用不更改论文及数据集许可。 查看说明
- 比较状态
- 不可比:该数据集由模型发布方构建并用于训练增强,来源也未披露足以对齐的模型revision与编码配置;该结果仅记录原论文口径,不加入跨型号比较组。
运行条件与获取
FlagEmbedding
系统支持未提供 · PyTorch checkpoint · 未指定量化
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;内存、显存和速度取决于运行时、精度、输入长度与硬件,不将参数量或文件大小换算为资源保证。
内存:未核实;显存:未核实。
依赖:FlagEmbedding、torch。
STEP 01 安装 FlagEmbedding
按官方模型卡 Usage 章节安装 FlagEmbedding;官方同时提供从源码以可编辑方式安装的写法。
python -m pip install -U FlagEmbeddingSTEP 02 加载指定模型
按同页示例用 BGEM3FlagModel 加载此模型;稠密、稀疏与多向量结果需分别取用,融合方式由检索系统决定。本站未下载权重或执行模型,需在目标设备验证。