返回模型目录
文字识别

GOT-OCR 2.0

把整页文档或场景图像直接解码为纯文本或带格式(Markdown/LaTeX等)文本的端到端OCR模型。

最后核实:

https://huggingface.co/stepfun-ai/GOT-OCR2_0

特点与限制

主要特点

  • 约80M高压缩编码器:1024×1024图像编码为256个tokens
  • 0.5B解码器,论文说明最大支持8K tokens
  • 支持纯文本、格式化、细粒度(坐标或颜色框选)、多裁剪与多页OCR
  • 官方提供Transformers用法与GitHub仓库demo/eval脚本两条路线

使用边界

  • 论文主要支持英文与中文,其他语言无官方评测。
  • 论文Table 3、Table 4的格式化与细粒度成绩建立在论文自建基准上,不是公开榜单;OCRBench成绩未出现在官方论文、模型卡或GitHub仓库中,本页不导入该榜。
  • 8K为论文声明的解码器最大tokens长度,官方未给出按输入分辨率或输出格式变化的实际可用长度。
  • HF模型卡未披露训练语料清单;GitHub仓库未提供许可证文件,代码许可未核实。
  • HF张量口径(约0.716B)与论文的约580M参数口径不同,页面参数列采用HF口径;本站未在票据、表格或扫描件上验证版面与格式还原效果。

模型信息

家族与版本
GOT (General OCR Theory) / 2.0
输入与输出
图像 → 文本
公开参数规模
0.716B(以以下来源口径为准)
激活 / 有效参数
未提供 / 未提供
参数口径
HF权重元数据safetensors张量参数总和为716,033,280(约0.716B);论文说明整模约580M参数,由约80M高压缩编码器(1024×1024输入压缩为256个tokens)与0.5B解码器组成,与HF张量计数口径不同,官方未统一单列。 参数来源
原生上下文
8,192 tokens
扩展上下文
未提供
语言声明
英语、中文(论文说明主要支持中英文;HF模型卡frontmatter标注multilingual);语言支持不代表对应语言的评测水平。
权重许可
Apache-2.0
代码许可
未核实
训练资料
论文介绍三段式训练流程(编码器解耦预训练、编码器与解码器联合训练、解码器后训练),联合训练数据由纯OCR数据、Mathpix-markdown格式数据与通用OCR数据构成;未公开完整训练语料清单。

能力依据

模型变体:专用版;家族与版本:GOT (General OCR Theory) / 2.0

文字识别

Fox(PDF文档级纯文本OCR) · Edit Distance0.035Fox英文PDF文档(论文说明使用开源Fox基准;词级切分计算指标) · 英语
格式化文档OCR(论文自建中英文文档基准) · Edit Distance(Markdown文档,单尺度输入,全文本行)0.097论文自建中英文文档页面基准(先用Mathpix生成伪标注再人工修正) · 中文与英语(论文基准未分列)
ChartQA-SE(结构化提取版本) · AP@strict0.747无单位(0–1)ChartQA-SE(论文引用的ChartQA结构化提取版本) · 英语
查看评估与来源收起补充信息

仅官方依据4 条成绩 · 1 个评测来源 · 0 个独立来源

可作为端到端文档与场景OCR候选:论文报告GOT(580M)在Fox中英文PDF纯文本OCR上编辑距离为0.035/0.038,自建格式化文档基准的Markdown全文本编辑距离0.097(single;multi-crop为0.086),ChartQA-SE结构化图表AP@strict为0.747。论文另报告场景文本编辑距离0.112/0.096与细粒度框选结果(英文region 0.041)未逐项导入。均为发布方自测,且论文基准与公开榜单口径不同;OCRBench成绩未在官方论文、模型卡或GitHub仓库中出现。

已有依据支持
  • 论文按基准逐表给出中英文编辑距离及格式化、图表等分项,当前记录明确对应GOT(580M)行。
  • 同页给出single与multi-crop两种输入策略的对照,便于按精度与算力取舍。
  • 官方GitHub提供demo与evaluate_GOT.py脚本,部署与复现路线明确。
证据限制
  • 成绩由模型发布方运行,未找到许可明确且确认为独立方的同型号同条件复测。
  • 论文Table 3、Table 4的格式化与细粒度成绩来自自建基准,非公开榜单;场景文本与细粒度结果未逐项导入。
  • 训练语料未公开清单;GitHub仓库未提供许可证文件,代码许可未核实。
  • HF张量口径(约0.716B)与论文约580M参数口径不同;8K为解码器最大tokens声明,实际可用长度未披露。
  • 本站未在真实票据、表格或扫描件上验证版面与表格结构还原。

Fox(PDF文档级纯文本OCR) · Edit Distance

Fox英文PDF文档(论文说明使用开源Fox基准;词级切分计算指标) · 英语 · GOT-OCR 2.0论文Table 1(arXiv v1)

0.035官方报告 · GOT作者团队(StepFun等,模型发布方自报)官方自测

Fox(PDF文档级纯文本OCR) · Edit Distance · 越低越好 · 英语 · 摘要引用

展开评测条件与来源
模型标识 / 修订
stepfun-ai/GOT-OCR2_0(论文中称GOT,0.58B) / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
Fox英文PDF文档(论文说明使用开源Fox基准;词级切分计算指标) / 未提供
基准 / 报告版本
GOT-OCR 2.0论文Table 1(arXiv v1)
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;论文4.2.1用开源Fox基准测试中英文PDF纯文本OCR,指标为词级编辑距离(越低越好,论文写作edict distance);Table 1列出GOT 580M的en列为0.035。论文未披露Fox版本、模型revision与完整推理配置;arXiv v1提交日2024-09-03不是已知评测运行日;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
stepfun / stepfun-got-ocr2-paper-table1
来源
https://arxiv.org/abs/2409.01704
来源使用说明
引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据。论文页面标注CC BY-SA 4.0,引用不更改论文及数据集许可。 查看说明
比较状态
不可比:来源未披露基准版本、模型revision与完整推理配置,且该编辑距离为论文自评口径;仅记录原报告,不与其他OCR记录或整套文档解析流水线直接比较。

Fox(PDF文档级纯文本OCR) · Edit Distance

Fox中文PDF文档(论文说明使用开源Fox基准;词级切分计算指标) · 中文 · GOT-OCR 2.0论文Table 1(arXiv v1)

0.038官方报告 · GOT作者团队(StepFun等,模型发布方自报)官方自测

Fox(PDF文档级纯文本OCR) · Edit Distance · 越低越好 · 中文 · 摘要引用

展开评测条件与来源
模型标识 / 修订
stepfun-ai/GOT-OCR2_0(论文中称GOT,0.58B) / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
Fox中文PDF文档(论文说明使用开源Fox基准;词级切分计算指标) / 未提供
基准 / 报告版本
GOT-OCR 2.0论文Table 1(arXiv v1)
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;论文4.2.1用开源Fox基准测试中英文PDF纯文本OCR,指标为词级编辑距离(越低越好);Table 1列出GOT 580M的zh列为0.038。论文未披露Fox版本、模型revision与完整推理配置;arXiv v1提交日2024-09-03不是已知评测运行日;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
stepfun / stepfun-got-ocr2-paper-table1
来源
https://arxiv.org/abs/2409.01704
来源使用说明
引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据。论文页面标注CC BY-SA 4.0,引用不更改论文及数据集许可。 查看说明
比较状态
不可比:来源未披露基准版本、模型revision与完整推理配置,且该编辑距离为论文自评口径;仅记录原报告,不与其他OCR记录或整套文档解析流水线直接比较。

格式化文档OCR(论文自建中英文文档基准) · Edit Distance(Markdown文档,单尺度输入,全文本行)

论文自建中英文文档页面基准(先用Mathpix生成伪标注再人工修正) · 中文与英语(论文基准未分列) · GOT-OCR 2.0论文Table 3(single行)

0.097官方报告 · GOT作者团队(StepFun等,模型发布方自报)官方自测

格式化文档OCR(论文自建中英文文档基准) · Edit Distance(Markdown文档,单尺度输入,全文本行) · 越低越好 · 中文与英语(论文基准未分列) · 摘要引用

展开评测条件与来源
模型标识 / 修订
stepfun-ai/GOT-OCR2_0(论文中称GOT,0.58B) / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
论文自建中英文文档页面基准(先用Mathpix生成伪标注再人工修正) / 未提供
基准 / 报告版本
GOT-OCR 2.0论文Table 3(single行)
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;论文4.2.3测试格式化(Mathpix markdown/tikz/smiles/kern)输出;Table 3在single(原始整图输入)下All text编辑距离为0.097,multi-crop(动态分辨率)同行为0.086,Formula/Table分行为0.269/0.254(single)。表注说明single为原始图像输入、multi-crop为动态分辨率策略;论文未披露基准版本与完整推理配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
stepfun / stepfun-got-ocr2-paper-table3
来源
https://arxiv.org/abs/2409.01704
来源使用说明
引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据。论文页面标注CC BY-SA 4.0,引用不更改论文及数据集许可。 查看说明
比较状态
不可比:该成绩来自论文自建基准的编辑距离口径,非公开榜单;来源未披露基准版本、模型revision与完整推理配置,不能与其他OCR记录直接比较。

ChartQA-SE(结构化提取版本) · AP@strict

ChartQA-SE(论文引用的ChartQA结构化提取版本) · 英语 · GOT-OCR 2.0论文Table 5(arXiv v1)

0.747 无单位(0–1)官方报告 · GOT作者团队(StepFun等,模型发布方自报)官方自测

ChartQA-SE(结构化提取版本) · AP@strict · 越高越好 · 英语 · 摘要引用

展开评测条件与来源
模型标识 / 修订
stepfun-ai/GOT-OCR2_0(论文中称GOT,0.58B) / 未提供
思考模式
不适用
量化 / 运行时
未提供 / 未提供
数据集 / 划分
ChartQA-SE(论文引用的ChartQA结构化提取版本) / 未提供
基准 / 报告版本
GOT-OCR 2.0论文Table 5(arXiv v1)
Few-shot / 输出上限
未提供 / 未提供 tokens
提示模板 / 设置
未提供;论文4.2.5用ChartQA-SE与PlotQA-SE评估图表OCR;Table 5列出GOT(0.58B)ChartQA-SE AP@strict 0.747、AP@slight 0.845、AP@high 0.867,PlotQA-SE AP@strict 0.133。表内其他模型的个别数值存在明显排版异常,本记录仅取GOT行;论文未披露基准版本与完整推理配置;本站未复现。
评测日期 / 核实日期
未提供 / 2026-10-17
评测身份
官方自测
来源标识 / 评测批次
stepfun / stepfun-got-ocr2-paper-table5
来源
https://arxiv.org/abs/2409.01704
来源使用说明
引用来源;许可:未提供;仅记录论文中的少量型号成绩并保留作者与来源链接;不复制论文表格或底层基准数据。论文页面标注CC BY-SA 4.0,引用不更改论文及数据集许可。 查看说明
比较状态
不可比:该平均精度来自论文表格口径,来源未披露基准版本、模型revision与完整推理配置,不能与其他OCR记录直接比较。

运行条件与获取

Transformers

系统支持未提供 · Safetensors · 未指定量化

官方支持;本站尚未进行推理验证。

硬件:未核实。本站未实测;显存占用取决于输入分辨率、裁剪档位、批大小与精度,不将参数量或文件大小换算为资源保证。

内存:未核实;显存:未核实。

依赖:torch==2.0.1、torchvision==0.15.2、transformers==4.37.2、tiktoken==0.6.0、verovio==4.3.1、accelerate==0.28.0。

STEP 01 安装 Python 依赖

官方模型卡以Requirements列表给出各包版本(官方测试环境为python 3.10与NVIDIA GPU),此处转换为终端写法;本站未执行该命令。

python -m pip install torch==2.0.1 torchvision==0.15.2 transformers==4.37.2 tiktoken==0.6.0 verovio==4.3.1 accelerate==0.28.0

STEP 02 加载指定模型

按同页示例以trust_remote_code加载模型,并用model.chat调用ocr_type='ocr'(纯文本)或'format'(格式化输出);细粒度与多裁剪分别使用ocr_box/ocr_color与chat_crop。本站未下载权重或执行模型,需在目标设备验证。

GOT官方仓库(PyTorch)

系统支持未提供 · Safetensors(HF权重) · 未指定量化

官方支持;本站尚未进行推理验证。

硬件:未核实。本站未实测;官方仅给出环境与依赖说明,未提供内存或显存需求估算。

内存:未核实;显存:未核实。

依赖:Python 3.10(官方conda示例)、CUDA 11.8 + torch 2.0.1(官方环境说明)、ninja、flash-attn(需按官方命令以 --no-build-isolation 安装)。

STEP 01 克隆官方仓库并创建环境

官方README第1步为克隆仓库,随后cd进入目录;第2步给出conda create -n got python=3.10 -y 与 conda activate got,此处仅记录克隆命令,其余按README依次执行。本站未执行。

git clone https://github.com/Ucas-HaoranWei/GOT-OCR2.0.git

STEP 02 安装包与Flash-Attention

在已激活的conda环境中执行 pip install -e .;再安装ninja并按官方命令安装flash-attn。官方环境为cuda11.8+torch2.0.1。本站未执行。

pip install -e .

STEP 03 运行官方demo脚本

官方README给出纯文本OCR的demo命令;--model-name指向本地权重目录、--image-file指向图片,均需替换。格式化为--type format,细粒度加--box或--color,多图/多页使用run_ocr_2.0_crop.py。本站未下载权重或执行模型。

python3 GOT/demo/run_ocr_2.0.py --model-name /GOT_weights/ --image-file /an/image/file.png --type ocr

查看官方模型资料