Jina Reranker v3.5
在 v3 的 listwise 联合编码基础上改用混合注意力与自蒸馏训练的轻量文本重排模型。
最后核实：
https://huggingface.co/jinaai/jina-reranker-v3.5特点与限制
主要特点
- 沿用 last-but-not-late（LBNL）listwise 接口：查询与多篇候选在同一上下文窗口内编码，按余弦相似度出分并整体排序
- 混合 3L2G 注意力：每三个滑窗层（窗口 1024）接两个全局层，末端固定为全局层以满足 LBNL 读取；技术报告称可缩短 listwise 推理时延
- 三阶段自蒸馏：同尺寸全注意力教师 → 稀疏注意力适配 → 蒸馏到混合注意力学生
- 上下文上限按官方“131K tokens”表述记为 131072，与仓库 config 的 max_position_embeddings 一致
- 模型卡提供 GGUF 与 MLX 版本，并说明与 v3 共用同一 API 请求结构
使用边界
- 权重为 CC BY-NC 4.0 非商业许可，模型卡写明商业用途需联系 Jina AI；个人研究用途之外的使用需先确认许可。
- 官方对比表为发布方自运行成绩，未披露评测运行日、模型 revision 与推理配置，本站未复测。
- 对比表使用统一 top-100 协议且以 jina-embeddings-v5-text-small 为第一阶段；该结果不能等同于更换第一阶段检索器后的表现，重排也不能提升召回覆盖。
- Struct-IR 采用受控候选池协议（gold docs + hardest distractors），与常规全库检索不可直接比较；RTEB 分数已排除 MIRACL 平均值。
模型信息
- 家族与版本
- Jina Reranker / 3.5
- 输入与输出
- 文本 → 相关性分数
- 公开参数规模
- 0.6B（以以下来源口径为准）
- 激活 / 有效参数
- 未提供 / 未提供
- 参数口径
- 官方模型卡与技术报告摘要口径为 0.6B 参数，基于 Qwen/Qwen3-0.6B（28 层）并附加轻量 MLP 投影器（1024→512→512），文档向量投影到 512 维后按余弦相似度打分；官方未另列更精确的总量口径。 参数来源
- 原生上下文
- 131,072 tokens
- 扩展上下文
- 未提供
- 语言声明
- 多语言（模型卡 language 字段标注 multilingual，训练覆盖法律、医疗、金融等多语场景；未列出具体语言数量）；语言支持不代表对应语言的评测水平。
- 权重许可
- CC BY-NC 4.0
- 代码许可
- 未核实
- 训练资料
- 技术报告（arXiv:2607.18152）公开混合注意力设计（3L2G）、多领域训练数据构成方向与三阶段自蒸馏流程；未公开可完整复核的训练数据清单。
能力依据
模型变体：专用版；家族与版本：Jina Reranker / 3.5
结果重排
BEIR · nDCG@1063.2分（0–100）BEIR 平均（模型卡统一 top-100 协议） · 英语MIRACL · nDCG@1074.11分（0–100）MIRACL 多语检索平均（模型卡统一 top-100 协议） · 多语言RTEB · nDCG@1070.95分（0–100）RTEB 领域检索平均（模型卡口径，不含 MIRACL 平均值） · 未提供（模型卡未按语言拆分）查看评估与来源收起补充信息
结果重排
BEIR · nDCG@1063.2分（0–100）BEIR 平均（模型卡统一 top-100 协议） · 英语
MIRACL · nDCG@1074.11分（0–100）MIRACL 多语检索平均（模型卡统一 top-100 协议） · 多语言
RTEB · nDCG@1070.95分（0–100）RTEB 领域检索平均（模型卡口径，不含 MIRACL 平均值） · 未提供（模型卡未按语言拆分）
发布方在统一 top-100 协议下自报 BEIR 63.20、MIRACL 74.11、RTEB 70.95 与 Struct-IR 48.3（均为 nDCG@10），并以 v3 为直接对照；这些成绩说明该型号在英文、多语与半结构化检索上相对 v3 有提升，但缺少独立复测。
已有依据支持
- 模型卡在同一张表内并列 v3、v3.5 与大模型对照，并明确第一阶段检索器与协议（First-stage excluded），口径较清楚。
- 技术报告公开混合注意力与自蒸馏的训练设计，并给出时延对比的运行条件（A100、FlashAttention-2）。
- 与 v3 共用 API 请求结构，便于已有部署直接替换并按同一接口复测。
证据限制
- 全部成绩由模型发布方自运行，未找到许可明确且已确认独立性的同型号重排结果。
- 成绩依赖指定的第一阶段检索器（jina-embeddings-v5-text-small），更换召回阶段后需重新测量。
- Struct-IR 使用受控候选池协议、RTEB 排除 MIRACL 平均值，两者与其他基准的设置不同，不能直接横向比较。
- 非商业许可与 listwise 推理的显存/时延特征都会影响实际可用性，本站未实测资源占用。
BEIR · nDCG@10
63.2 分（0–100）官方报告 · Jina AI（模型发布方自运行）官方自测
展开评测条件与来源
- 模型标识 / 修订
- jinaai/jina-reranker-v3.5 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- BEIR 平均（模型卡统一 top-100 协议） / 未提供
- 基准 / 报告版本
- jina-reranker-v3.5 模型卡对比表；技术报告 arXiv:2607.18152 摘要同值
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；模型卡对比表口径：统一 top-100 协议，第一阶段为 jina-embeddings-v5-text-small，第一阶段成绩不计入表内比较（First-stage excluded），全部列均为 nDCG@10（%）。模型卡称该成绩匹配 4B 量级模型且参数量约为其 1/7。评测运行日期未披露；不是本站复测。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- jinaai / jinaai-reranker-v35-card-unified-top100
- 来源
- https://huggingface.co/jinaai/jina-reranker-v3.5
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡与报告中少量汇总成绩并保留发布方署名与来源链接；不复制表格明细与基准数据，引用不更改模型卡、论文及基准各自许可。 查看说明
- 比较状态
- 不可比：来源未披露评测运行日、模型 revision 与推理配置，且成绩依赖指定的第一阶段检索器；该数值仅记录原报告口径，不加入跨型号比较组。
MIRACL · nDCG@10
74.11 分（0–100）官方报告 · Jina AI（模型发布方自运行）官方自测
展开评测条件与来源
- 模型标识 / 修订
- jinaai/jina-reranker-v3.5 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- MIRACL 多语检索平均（模型卡统一 top-100 协议） / 未提供
- 基准 / 报告版本
- jina-reranker-v3.5 模型卡对比表
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；模型卡统一 top-100 协议（第一阶段 jina-embeddings-v5-text-small，第一阶段不计入比较），nDCG@10（%）。模型卡称相对 v3 在该项有提升（同表 v3 为 72.20）。评测运行日期未披露；不是本站复测。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- jinaai / jinaai-reranker-v35-card-unified-top100
- 来源
- https://huggingface.co/jinaai/jina-reranker-v3.5
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡与报告中少量汇总成绩并保留发布方署名与来源链接；不复制表格明细与基准数据，引用不更改模型卡、论文及基准各自许可。 查看说明
- 比较状态
- 不可比：来源未披露评测运行日、模型 revision 与推理配置，且成绩依赖指定的第一阶段检索器；该数值仅记录原报告口径，不加入跨型号比较组。
RTEB · nDCG@10
70.95 分（0–100）官方报告 · Jina AI（模型发布方自运行）官方自测
展开评测条件与来源
- 模型标识 / 修订
- jinaai/jina-reranker-v3.5 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- RTEB 领域检索平均（模型卡口径，不含 MIRACL 平均值） / 未提供
- 基准 / 报告版本
- jina-reranker-v3.5 模型卡对比表
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；模型卡统一 top-100 协议（第一阶段 jina-embeddings-v5-text-small），nDCG@10（%）；模型卡脚注注明 RTEB 分数不含 MIRACL 平均值。技术报告说明该基准用于反映法律、医疗、金融等领域的域外泛化。评测运行日期未披露；不是本站复测。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- jinaai / jinaai-reranker-v35-card-unified-top100
- 来源
- https://huggingface.co/jinaai/jina-reranker-v3.5
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡与报告中少量汇总成绩并保留发布方署名与来源链接；不复制表格明细与基准数据，引用不更改模型卡、论文及基准各自许可。 查看说明
- 比较状态
- 不可比：来源未披露语言构成、评测运行日、模型 revision 与推理配置；该数值仅记录原报告口径，不加入跨型号比较组。
Struct-IR · nDCG@10
48.3 分（0–100）官方报告 · Jina AI（模型发布方自运行）官方自测
展开评测条件与来源
- 模型标识 / 修订
- jinaai/jina-reranker-v3.5 / 未提供
- 思考模式
- 不适用
- 量化 / 运行时
- 未提供 / 未提供
- 数据集 / 划分
- 半结构化数据检索（受控候选池协议） / 未提供
- 基准 / 报告版本
- jina-reranker-v3.5 模型卡对比表（脚注约定）
- Few-shot / 输出上限
- 未提供 / 未提供 tokens
- 提示模板 / 设置
- 未提供；模型卡脚注说明 Struct-IR 使用受控候选池协议（gold docs + hardest distractors），与常规全库检索设置不同；nDCG@10（%）。模型卡称相对 v3（38.7）提升约 9.6 分，为该型号的主要改进方向。评测运行日期未披露；不是本站复测。
- 评测日期 / 核实日期
- 未提供 / 2026-10-17
- 评测身份
- 官方自测
- 来源标识 / 评测批次
- jinaai / jinaai-reranker-v35-card-unified-top100
- 来源
- https://huggingface.co/jinaai/jina-reranker-v3.5
- 来源使用说明
- 引用来源；许可：未提供；仅记录模型卡与报告中少量汇总成绩并保留发布方署名与来源链接；不复制表格明细与基准数据，引用不更改模型卡、论文及基准各自许可。 查看说明
- 比较状态
- 不可比：该成绩使用受控候选池协议（含金标文档与最难干扰项），与常规全库检索及其他表内基准的设置不一致；仅记录原报告口径，不加入跨型号比较组。
运行条件与获取
Transformers
系统支持未提供 · Safetensors（另有 GGUF 与 MLX 版本） · 未指定量化
官方支持；本站尚未进行推理验证。
硬件：未核实。本站未实测；技术报告给出的是 A100 上相对 v3 的时延对比（1.22×–1.56×，FlashAttention-2），本站未复现，也不将其换算为其他设备的资源保证。
内存：未核实；显存：未核实。
依赖：transformers、torch。
STEP 01 安装 transformers
模型卡给出的安装命令为 `pip install transformers`，此处照录官方写法。本站未执行该命令。
pip install transformersSTEP 02 加载模型并重排
按模型卡示例用 AutoModel.from_pretrained('jinaai/jina-reranker-v3.5', dtype="auto", trust_remote_code=True) 加载并调用 model.rerank(query, documents)（可选 top_n 与 return_embeddings）。若已在使用 v3，官方说明只需把模型名替换为 v3.5，请求结构不变。本站未下载权重或执行模型，需在目标设备验证。