Jina Embeddings v3
用同一主体权重加五个任务 LoRA 适配器覆盖检索、聚类、分类与文本匹配的多语嵌入模型。
最后核实:
https://huggingface.co/jinaai/jina-embeddings-v3特点与限制
主要特点
- 默认 1024 维向量,Matryoshka 可截断至 32/64/128/256/512/768 维
- 5 个任务适配器:retrieval.query、retrieval.passage、separation、classification、text-matching;不传 task 时不使用专用适配器
- RoPE 支持最长 8192 tokens 输入,模型卡示例用 max_length=2048 演示截断
- 官方要求均值池化(mean pooling)并对向量做 L2 归一化
- 同时提供 Transformers、Sentence Transformers 与 ONNX 推理路径
使用边界
- 权重为 CC BY-NC 4.0 非商业许可,模型卡写明超出 AWS/Azure 平台或在公司内部就地部署的商业用途需另行联系 Jina AI。
- 官方 MTEB 成绩为发布方自报的平均分,论文未披露评测运行日,模型卡也未提供任务级推理配置,本站未复测。
- 检索时必须按查询/文档选择 retrieval.query 与 retrieval.passage,切换任务需重新编码;Matryoshka 截断维度必须与索引一致。
- 模型卡提示早期代码的 Matryoshka 截断发生在归一化之后,导致截断向量未归一化;沿用旧向量时需按官方给出的 code_revision 加载以保持一致性。
模型信息
- 家族与版本
- Jina Embeddings / 3
- 输入与输出
- 文本 → 向量
- 公开参数规模
- 0.57B(以以下来源口径为准)
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方论文摘要与发布公告口径为 570M 参数;模型卡说明其含 5 个任务 LoRA 适配器,但未逐项拆分主体与适配器参数量。本记录按论文口径填写,不从权重文件大小反推。 参数来源
- 原生上下文
- 8,192 tokens
- 扩展上下文
- 未提供
- 语言声明
- 多语言(发布方称支持 89 种语言,其中 30 种为调优重点;模型卡称基础模型本身支持 100 种语言);语言支持不代表对应语言的评测水平。
- 权重许可
- CC BY-NC 4.0
- 代码许可
- 未核实
- 训练资料
- 论文公开基于 Jina-XLM-RoBERTa 的架构、RoPE 长上下文的处理方式与任务 LoRA 适配器的训练设计,并说明各适配器对应的任务;本站核对的公开材料中未见可完整复核的训练数据清单。
能力依据
模型变体:专用版;家族与版本:Jina Embeddings / 3
向量检索
MTEB (English) · 任务平均分(Average,含 CF/CL/PC/RR/RT/STS/SM 分项)65.52分(0–100)MTEB 英语任务平均分(论文 Table 4 口径) · 英语MTEB (Multilingual) · 任务平均分(Average,含 CF/CL/PC/RR/RT/STS 分项)64.44分(0–100)MTEB 多语与跨语任务平均分(论文 Table 4 口径) · 多语言查看评估与来源收起补充信息
向量检索
发布方论文报告 MTEB 英语任务平均 65.52、多语任务平均 64.44,属于同一评测批次的两组汇总;模型以 89 种语言、8192 tokens 输入与任务适配器为主要卖点,但成绩缺少独立复测与运行配置细节。
- 论文在同一表内并列英语与多语汇总及分项(分类、聚类、配对分类、重排、检索、STS、摘要),便于查看任务间的强弱分布。
- 模型卡说明了五个任务适配器的用途与编码方式,并给出 Transformers、Sentence Transformers 与 ONNX 三种可复现路径。
- 论文公开参与对比的模型与相对结论(如与同规模及更大参数模型对比),汇总值可回溯到论文表格。
- 两组汇总分均由模型发布方运行并报告,未找到许可明确且已确认独立性的同型号评测结果。
- 论文未披露评测运行日、模型 revision 与任务级推理配置,汇总分不参与跨型号直接排序。
- 多语成绩为跨语种任务的加权平均,与单一语料上的检索效果没有直接对应关系;本站未在自有语料验证。
- 发布方公告称 Matryoshka 截断到更低维度不显著影响效果,但截断维度、适配器与池化方式必须与索引一致,实际取舍需自行验证。
MTEB (English) · 任务平均分(Average,含 CF/CL/PC/RR/RT/STS/SM 分项)
65.52 分(0–100)官方报告 · Jina AI(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- jinaai/jina-embeddings-v3 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MTEB 英语任务平均分(论文 Table 4 口径) / 未提供
- 基准 / 报告版本
- jina-embeddings-v3 论文 Table 4(arXiv:2409.10173v3)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;论文 Table 4 的英语行数值:Classification 82.58、Clustering 45.27、Pair Classification 84.01、Reranking 58.13、Retrieval 53.87、STS 85.80、Summarization 29.71,任务平均 65.52(表中为百分数)。评测使用任务 LoRA 适配器,论文未披露评测运行日与完整推理配置;不是本站复测。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- jinaai / jinaai-v3-paper-table4
- 来源
- https://arxiv.org/html/2409.10173v3
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量汇总成绩并保留作者与来源链接;不复制论文表格与底层基准数据,引用不更改论文及基准数据集的许可。 查看说明
- 比较状态
- 不可比:来源未披露模型 revision、评测运行日与任务级推理配置,且为发布方汇总口径;该平均分不加入跨型号比较组。
MTEB (Multilingual) · 任务平均分(Average,含 CF/CL/PC/RR/RT/STS 分项)
64.44 分(0–100)官方报告 · Jina AI(论文作者及模型发布方)官方自测
展开评测条件与来源
- 模型标识 / 修订
- jinaai/jina-embeddings-v3 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MTEB 多语与跨语任务平均分(论文 Table 4 口径) / 未提供
- 基准 / 报告版本
- jina-embeddings-v3 论文 Table 4(arXiv:2409.10173v3)
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供;论文 Table 4 多语行数值:Classification 71.46、Clustering 46.71、Pair Classification 76.91、Reranking 63.98、Retrieval 57.98、STS 69.83,任务平均 64.44(表中为百分数)。论文说明该部分为多语与跨语任务的加权平均,并列出各任务所用适配器;未披露评测运行日与完整推理配置;不是本站复测。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- jinaai / jinaai-v3-paper-table4
- 来源
- https://arxiv.org/html/2409.10173v3
- 来源使用说明
- 引用来源;许可:未提供;仅记录论文中的少量汇总成绩并保留作者与来源链接;不复制论文表格与底层基准数据,引用不更改论文及基准数据集的许可。 查看说明
- 比较状态
- 不可比:来源未披露模型 revision、评测运行日与任务级推理配置,且为发布方汇总口径;该平均分不加入跨型号比较组。
运行条件与获取
Transformers
系统支持未提供 · Safetensors(仓库同时提供 ONNX) · 未指定量化
官方支持;本站尚未进行推理验证。
硬件:未核实。本站未实测;内存、显存和速度取决于运行时、精度、输入长度与硬件,不将参数量或文件大小换算为资源保证。
内存:未核实;显存:未核实。
依赖:transformers、torch、einops。
STEP 01 按官方示例准备环境
模型卡给出 Notebook 写法的安装行 `!pip install transformers torch einops`;此处按终端写法记录为 python -m pip install transformers torch einops(由官方 Notebook 写法转换,未增删包名)。官方同时提示在 CUDA 环境下可另行安装 flash-attn,并另有一行 numpy 版本约束的安装示例需按环境决定。本站未执行这些命令。
python -m pip install transformers torch einopsSTEP 02 加载模型并编码
按模型卡示例用 AutoModel.from_pretrained(..., trust_remote_code=True) 加载,encode 时按用途传入 task(如 retrieval.query、retrieval.passage、text-matching),需要时用 max_length 控制输入长度、用 truncate_dim 控制截断维度。本站未下载权重或执行模型,需在目标设备验证。