首页 > 人工智能 > 人工智能 > 智能体开发中用到的主流文档预处理工具
本文节选自清华社《AI智能体应用开发》,或者出版社和作者许可发布,供读者免费参考,不要公开发表即可。
在今天,智能体系统日益深入工作与生活场景,其感知能力不再局限于对语音、图像或传感器信号的简单接收,而是要求对复杂、非结构化的现实信息进行高保真、结构化的理解。其中,文档作为知识承载的核心载体,构成了智能体的关键输入源。
近年来,随着深度学习、计算机视觉与大模型技术的融合突破,文档预处理工具经历了从“通用OCR ”到“文档智能(DocumentAI )”的范式跃迁。一批兼具高精度、强健壮性与良好工程落地能力的开源或商业工具相继涌现,显著降低了智能体感知文档世界的门槛。
本节将系统梳理当前5 款具有代表性的主流文档预处理工具:MinerU0 [7] 、PaddleOCR [8] 、PP-StructureV3 [9] 、MonkeyOCR-1.5 [10] 与DeepSeek-OCR [11] 。它们分别代表了学术文献结构化、通用OCR 工业化、复杂版面理解、边缘轻量化部署以及大模型驱动语义感知等不同技术路线与应用场景。通过对各工具的技术架构、核心能力、适用边界与部署特性的深入剖析,我们旨在为研究者与开发者提供一份清晰、实用的选型指南,助力构建更强大、更可靠的智能体感知系统。
2.3.1 MinerU
MinerU 是由国内AI 初创公司MinerLabs 于2024 年初开源的PDF 文档智能解析系统,专为解决科研工作者在处理 (Science ,Technology ,Engineering ,Mathematics ,科学、技术、工程、数学) 领域学术论文时面临的结构信息丢失问题而设计。传统OCR 或PDF 提取工具通常将页面内容转换为线性文本流,导致标题层级、数学公式、图表引用关系等关键语义结构不可恢复。MinerU 的核心目标是在保留原始排版语义的前提下,实现“所见即所得”的高保真文档还原。
MinerU 整体架构图如图2-2 所示。
图
2-2 MinerU
整体架构图
MinerU 采用了分场景的任务处理策略。如果PDF 本身带有可提取的文本和矢量信息(比如arXiv 上的论文),可直接用PyMuPDF 解析原生对象,避免不必要的图像转换。如果处理过程中遇到扫描件或纯图片页,则调用基于YOLOv8 的视觉模型,先识别出文本块、表格、插图和数学公式的位置。部分PDF 中出现的公式部分交给自研的MathFormer 模型—这是一个基于Transformer 的编码器- 解码器结构,专门训练来把印刷体甚至部分手写风格的公式转换成LaTeX ,在CROHME 等标准数据集上准确率接近90% [12] 。
这使得MinerU 具有极强的PDF 文档解析处理能力。首先便是其能稳定输出高质量的LaTeX ,以确保公式不“崩坏”。并且在处理多栏布局时的效果也相当可观,它能够有效地识别双栏、三栏等典型论文排版,防止跨栏文本错误拼接。除此之外,它还可以做到保留正文元素间的引用关系, 例如自动建立正文中的指代表述(如“如图 1 所示”)与对应图表标题之间的语义关联。它甚至还支持批量处理,提供了命令行工具 mineru-cli ,可对整个文件夹内的 PDF 文档进行自动化结构化处理。
通常MinerU 适合高校、实验室、科研助手开发者和教育出版机构使用—无论是构建论文知识库、实现细粒度内容检索,还是在教材数字化中完整保留数学公式。但是对非学术文档(如合同、发票)优化不足,并且不支持手写中文或古籍竖排文本,同时社区规模较小,文档更新较慢。
2.3.2 PaddleOCR
PaddleOCR 是百度飞桨(PaddlePaddle )深度学习框架下的 Optical Character Recognition ,OCR ) 项目,自2020 年发布以来持续迭代,截至2026 年已更新至v3.5 版本。凭借完善的工具链、高效的模型设计和活跃的社区支持,该项目在GitHub 上获得超过35 000 颗星标,成为全球范围内广泛采用的OCR 开源方案之一。其设计目标明确:兼顾工业部署的实用性与学术研究的先进性,提供一套开箱即用、可扩展性强的通用OCR 能力。
PP-OCR 系列(v1~v4 )是其核心产品线,版本迭代过程中逐步引入DB++ 文本检测器、SVTR 识别网络以及LCNet 轻量化骨干网络,在精度与速度之间取得了良好的平衡。同时支持多种语言,通过统一识别头+ 多语言字符集,覆盖80 多种语言,包括藏文、维吾尔文等少数民族文字。PP-OCR 还内置文本方向分类器(Text Direction Classifier ,CLS ),可自动校正0 °、90 °、180 °和270 °四种常见的旋转角度,有效提升了复杂拍摄场景下的健壮性。同时支持动态词典机制,允许在推理阶段注入领域特定词汇(如车牌号、药品名称),显著提升业务场景下的识别准确率 [8] 。
PP-OCRv4 的核心优势在于通过一系列系统性的精细化改进,在维持高效推理速度的前提下,实现了多场景下识别精度的大幅提升。具体而言,相较于前代PP-OCRv3 ,其在中文、英文数字及多语言场景的端到端Hmean 或识别准确率分别显著提升超过4.5% 、6% 与8% 。这一性能飞跃源于检测与识别模块共计10 个关键技术的协同优化。在检测侧,其采用了并行分支融合的PFHead 结构以增强特征表达能力,并升级了CML 互学习策略与 Dynamic Shrinkage Ratio ,DSR ) 训练方法,从而更精准地定位各类复杂文本。在识别侧,模型通过引入训练更稳定的GTC-NRTR 注意力指导分支、高效的DKD 蒸馏策略,以及创新的DF 数据挖掘方案(该方案将训练周期从两周缩短至5 天),大幅提升了文本识别的准确性与训练效率。尤为关键的是,这些改进均建立在专为边缘设备优化的PP-LCNetV3 骨干网络之上,并通过详尽的消融实验审慎平衡了精度与速度的取舍,最终确保了模型在工业部署中兼具卓越的准确性与出色的实时性 [8] 。
PaddleOCR 已在物流(日均处理千万级快递面单以支撑自动化分拣与运单录入)、金融柜台服务(实时提取身份证、银行卡等证件信息以提升业务效率)以及智慧教育(在拍照搜题场景中精准抽取题目文本,为解题与内容推荐提供结构化输入)等多个高并发、高可靠性要求的领域实现规模化落地,但其默认模型仍存在若干局限:不包含版面分析能力(需额外集成PP-Structure 模块),对高度密集表格、多语言混排或艺术字体文档的解析效果有限,且超轻量版本在低对比度、模糊或强光照干扰等复杂图像条件下易出现漏检问题。
2.3.3 PP-StructureV3
PP-Structure 是PaddleOCR 官方推出的文档智能扩展模块,其V3 版本于2025 年第三季度发布,标志着飞桨OCR 技术栈从单纯的“文本识别”向“完整文档理解”的战略演进。该模块不再仅关注字符内容的提取,而是致力于还原PDF 或扫描文档中蕴含的逻辑结构与语义层次。
PP-StructureV3 能够将文档图像和PDF 文件高效转换为结构化内容(如Markdown 格式),并具备版面区域检测、表格识别、公式识别、图表理解以及多栏阅读顺序恢复等强大功能。该工具在多种文档类型下均表现优异,能够处理复杂的文档数据。PP-StructureV3 支持灵活的服务化部署,兼容多种硬件环境,并可通过多种编程语言进行调用。同时,支持二次开发,用户可以基于自有数据集进行模型训练和优化,训练后的模型可实现无缝集成 [9] 。
PP-StructureV3 整体架构流程图如图2-3 所示。
图2-3 PP-StructureV3 整体架构流程图
在技术层面,PP-Structure 实现了多项关键技术突破。其内部核心的TableMaster 模型 [13] 基于Transformer 架构,支持端到端识别含任意合并单元格甚至跨页的复杂表格,并可输出HTML 或Excel 格式。LayoutParserV3 [14] 融合DETR 与U-Net 优势,可精准检测并分类10 类常见的文档元素,包括文本段落、标题、图片、表格、数学公式、页眉页脚、列表、代码块及分隔线。系统的PDF 原生解析器可以直接读取PDF 内容流,区分矢量文本与嵌入图像,有效避免栅格化 。PP-Structure 使用的语义重组引擎还提供了根据空间位置与字体特征重建段落、章节、列表层级的能力,增强识别效果。
系统支持多种结构化输出格式,包括Word
(.docx
)、Excel
(.xlsx
)、Markdown
、HTML
,以及包含元素类型、边界框坐标、页面编号和原始内容的JSON
格式(例如{"type":"table","bbox":[x1,
y1,x2,y2],"html":"<table>...","page":3}
)。
该工具适用于对文档结构完整性要求较高的专业场景,例如政府公文自动化归档(将红头文件转化为结构化数据库记录)、金融尽职调查 报告解析(精准提取财报中的关键表格数据)以及法律文书智能分析(自动识别判决书中的当事人信息、案由与判决结果等核心要素)。
2.3.4 MonkeyOCR-1.5
MonkeyOCR 最初由智利创业公司MonkeyLearn 开发,并在2023 年被收购后开源。其1.5 版本发布于2024 年,专注于解决计算资源有限条件下的光学字符识别问题,特别适合IoT 开发者、教育机构以及小型企业使用。
MonkeyOCR v1.5 的设计强调了轻量化与高效性的技术特点。文本检测模块基于改进版EAST 模型,体积小于1MB 。在文本识别部分,采用了CRNN 结合CTC 损失函数,整体参数量控制在200 万以内。同时,该系统还集成了N-gram 语言模型和微调版TinyBERT ,能够修正诸如cl1ent →client 类的常见拼写错误。值得一提的是,MonkeyOCR v1.5 仅依赖OpenCV 和PyTorch ,无须复杂的环境配置,极大地简化了部署流程。
在性能方面,在专门测试复杂表格的OCRFlux-Complex 数据集上,MonkeyOCR v1.5 的性能达到 了90.9 , 相比于MinerU2.5(81.7) 和PaddleOCR-VL(81.7) ,实现了超过9 个 百分点的巨大提升。另外,在业内权威的文档解析基准OmniDocBench v1.5 上,MonkeyOCR v1.5 的表现同样非常亮眼, 它 的综合得分达到了92.9 ,超越了之前的SOTA 模型PPOCR-VL(91.9) 和MinerU 2.5(90.7) 。值得注意的是,它也超过了像Gemini 2.5-Pro 这样的通用闭源大模型,显示了领域专用模型在垂直任务上的巨大优势。这些都充分证明了其针对性设计的有效性 [10]。
MonkeyOCR v1.5 在多种实际应用中表现出色,例如智能零售中的货架价签识别、农业物联网领域内的农药瓶标签读取,以及高校学生项目(如低成本文档扫描仪开发)等边缘计算或教学场景。MonkeyOCR v1.5 通过一系列精巧而实用的设计,特别是在处理复杂表格方面,为文档智能领域贡献了一个非常强大的新工具。
2.3.5 DeepSeek-OCR
2025 年,DeepSeek 推出DeepSeek-OCR ,标志着光学字符识别技术正经历一次范式转变:从传统的“感知层”字符提取,逐步演进为对文档内容的“认知级”语义理解。该系统的核心理念是,OCR 不应止步于还原文字,而应解析文档所承载的信息结构与业务含义。
DeepSeek-OCR 是一个多模态大语言模型 OCR 系统,其包含双编码器视觉系统( SAM-ViT-B 提取空间特征, CLIP-L 提取语义特征)、 DeepSeek 语言模型、 vLLM 推理引擎和多模态处理器等。该系统通过 MLP 投影器将视觉特征与语言模型融合,支持动态分辨率处理,在 A100-40G 上达到约 2500 tokens/ 秒的推理性能。
系统首先会根据图片的大小决定是否需要切分。如果图片太大,就智能地切成多个640 ×640 的小块仔细分析,在保持每个小块合适的比例的同时,保留一幅1024 ×1024 的全局视图以确保整体理解。
通过双编码器视觉系统的处理,系统获得了空间特征与语义特征,然后通过MLP 投影器将这两种视觉特征融合成统一格式。同时,系统还会添加特殊的分隔符标记,从而帮助语言模型理解图像结构,最后按顺序排列所有特征。这就是DeepSeek-OCR 的特征融合机制。系统还引入了Prompt-driven 交互机制,允许用户通过自然语言指令引导识别过程,例如,“仅提取发票中的金额和开票日期”。另外,通过上下文感知纠错能力,其还能利用全文语义对局部识别结果进行校正(如将易混淆的“¥2O00 ”自动修正为“¥2000 ”),在识别过程中同步执行命名实体识别(NER )与关系抽取(RE ),可直接输出如“甲方:张三”“合同金额:¥150 000 ”等结构化三元组。最终系统会将处理好的视觉特征与文本指令结合,输入给DeepSeek 语言模型进行最终的OCR 识别和生成 [11] 。
DeepSeek-OCR 已在多个高价值领域展现出显著应用潜力,括智能审计中自动比对合同条款与发票内容以识别不一致项,医疗AI 辅助场景下从非结构化电子病历中精准提取诊断结论、检查结果及用药建议,以及法律科技(LegalTech )领域中实现合同条款的自动解析、跨版本比对与潜在风险点识别,其实际部署仍受限于较高的计算资源需求(难以适配边缘设备或轻量级应用)、开源版本功能的局限性(细粒度Prompt 控制、行业定制命名实体识别等高级能力需商业授权),以及对非结构化手写文档(如医生手写处方、自由笔记等)的支持尚处于实验阶段,尚未达到生产环境可用的稳定性和准确率水平。
2.3.6 主流框架对比
表2-1 总结了各工具在其相关技术报告、论文等公开资料中的数据对比 [7][8][9][10][11] 。
表2-1 5 种主流文档预处理工具对比
|
工具 对比维度 |
MinerU |
PaddleOCR
|
PP-StructureV3 |
MonkeyOCR-1.5 |
DeepSeek-OCR |
|
开源协议 |
Apache 2.0 |
Apache 2.0 |
Apache 2.0 |
MIT |
基础模型开源(Apache 2.0 ) 高级功能闭源 |
|
首=次发布时间 |
2024 年3 月 |
2020 年6 月 |
2022 年11 月 (V3:2025.09 ) |
2023 年8 月 (1.5:2024.11 ) |
2025 年7 月 |
|
支持语言数量 |
2 (中、英) |
80+ |
同PaddleOCR |
12 (主流拉丁语系+ 中日韩) |
5 (中、英、日、韩、法) |
|
中文识别准确率( ICDAR2013-CN ) |
- |
96.3% |
95.5% |
76.1% |
97.2% |
|
英文识别准确率(IIIT-5K ) |
- |
96.4% |
96.0% |
82.4% |
98.1% |
|
表格识别F1-score (ICDAR2013Table ) |
- |
不支持 |
94.5% |
不支持 |
- |
|
公式识别准确率(CROHME2019 ) |
89.7% |
不支持 |
83.2% |
不支持 |
- |
|
PDF 原生解析 |
支持(PyMuPDF+ 图像fallback ) |
不支持 (需转图) |
支持(支持文本/ 图像混合页) |
不支持 |
支持 (基于PDFium ) |
|
版面分析类别数 |
6 (文本/ 标题/ 图/ 表/ 公式/ 列表) |
0 |
10+ (含页眉页脚、代码块等) |
|
8 (含实体区域) |
|
输出格式 |
Markdown&LaTeX |
TXT/JSON/Line-level |
DOCX/XLSX/HTML/MD/JSON |
TXT |
JSON (含实体+ 关系) |
(续表)
|
工具 对比维度 |
MinerU |
PaddleOCR
|
PP-StructureV3 |
MonkeyOCR-1.5 |
DeepSeek-OCR |
|
单页处理时间(TeslaT4,PDF 含图) |
~0.6s |
~0.2s (纯文本页) |
~1.2s |
~1.0s (CPUi5 ) |
~0.8s |
|
最小部署资源 |
GPU ≥6GB 显存 |
CPU (轻量模型仅3.5MB ) |
GPU ≥8GB |
CPU |
GPU ≥16GB (A10/A100 推荐) |
|
是否支持微调 |
是(需标注layout+formula ) |
支持(完整训练pipeline ) |
支持 |
有限支持 |
支持(LoRA/ 全参数微调) |
|
典型应用场景 |
学术论文结构化 |
通用OCR (证件、票=据) |
政府公文、财报、合同 |
IoT 、教育项目、边缘设备 |
金融、医疗、法律高精度场景 |
当前主流的文档预处理工具呈现出多样化、场景化的发展趋势,分别面向不同需求:MinerU 专注于学术论文的结构化解析,尤其在公式识别与多栏布局还原上表现突出;PaddleOCR 作为轻量、多语言的工业级OCR 方案,适用于移动端与通用文本识别场景;PP-StructureV3 提供完整的版面分析与表格识别能力,适合公文、财报等复杂文档的结构化提取;MonkeyOCR-1.5 以极低资源占用支持边缘部署,适用于IoT 与教育类轻量项目;而DeepSeek-OCR 则依托大模型实现语义理解与指令交互,面向金融、医疗等高价值场景的智能信息抽取。这些工具共同推动了文档处理从“字符识别”到“结构理解”甚至“语义认知”的技术演进。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/18841117/viewspace-3189323/ ,如需转载,请注明出处,否则将追究法律责任。