HPD-Parsing性能实测:4752 TPS吞吐量碾压同类模型,OmniDocBench权威数据解读
2026/7/26 10:08:46 网站建设 项目流程

HPD-Parsing性能实测:4752 TPS吞吐量碾压同类模型,OmniDocBench权威数据解读

【免费下载链接】HPD-Parsing项目地址: https://ai.gitcode.com/paddlepaddle/HPD-Parsing

飞桨PaddlePaddle / HPD-Parsing是一款轻量级(1B参数)且高吞吐量的文档解析模型,基于分层并行解码范式构建,在OmniDocBench v1.6权威评测中展现出卓越性能。

🚀 突破性吞吐量:4752 TPS的行业标杆

HPD-Parsing在OmniDocBench v1.6上实现了4,752 Tokens Per Second (TPS)的峰值吞吐量,这一数据意味着:

  • 较现有最快文档解析模型提升1.62倍吞吐量
  • 比自回归基线模型提升3.06倍效率
  • 在NVIDIA A800 80GB显卡上,批处理大小512时,从1,554.8 TPS跃升至4,752.1 TPS

这种性能飞跃源于创新的分层并行解码架构——主布局分支协调全局文档结构,同时将局部内容生成动态分配给并发分支,配合Progressive Multi-Token Prediction (P-MTP)技术进一步减少解码步骤。文档越长,加速优势越显著,在最长输出长度场景下可实现:

  • 18.04倍减少解码步骤
  • 3.67倍提升请求吞吐量
  • 5.80倍降低单请求延迟

📊 OmniDocBench v1.6权威评测表现

在业界公认的文档解析基准测试OmniDocBench v1.6中,HPD-Parsing不仅实现了94.91%的综合准确率,更在效率指标上树立新标准:

指标HPD-Parsing传统自回归模型提升倍数
峰值吞吐量(TPS)4,752.11,554.83.06×
页面处理速度(PPS)2.681.022.62×

测试环境:NVIDIA A800 80GB,vLLM推理框架,批处理大小512。尽管HPD-Parsing每页处理约4,800输入 tokens(是DeepSeek-OCR-2的4倍以上),仍实现1.31×更高PPS和1.62×更高TPS。

🔧 性能复现指南

项目提供完整的吞吐量测试和准确率评估流程,通过eval/目录下的脚本实现infer -> convert -> evaluatepipeline:

  1. 吞吐量测试:使用eval/benchmark_tps.py,基于定制vLLM构建(含分层并行解码+P-MTP推测解码)
  2. 结果转换:通过eval/hpd_to_markdown.py将模型预测转换为OmniDocBench要求的markdown格式
  3. 官方评估:参考eval/README.md配置OmniDocBench评估套件,获取文本/公式/表格/阅读顺序等细分指标

🧩 技术创新点解析

HPD-Parsing的性能突破源于对文档解析特性的深刻洞察:页面结构需要全局协调,而内容生成主要在局部区域内进行。这种架构设计带来:

  • 并行化解码:打破传统VLM的单序列生成瓶颈
  • 智能任务分配:全局布局与局部内容生成解耦
  • 高效推理优化:P-MTP技术减少冗余解码步骤

📈 实际应用价值

对于需要处理海量文档的企业级应用,HPD-Parsing的高吞吐量特性可显著降低计算成本:

  • 金融票据处理:缩短批量文档解析时间
  • 学术论文分析:加速文献库结构化提取
  • 数字化档案管理:提升大规模扫描件处理效率

通过eval/目录下的工具链,开发者可轻松复现性能指标,或将HPD-Parsing集成到自有文档处理流程中,体验4752 TPS带来的效率革命。

注:完整评测数据集和代码可通过以下方式获取:

git clone https://gitcode.com/paddlepaddle/HPD-Parsing

【免费下载链接】HPD-Parsing项目地址: https://ai.gitcode.com/paddlepaddle/HPD-Parsing

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询