返回文章列表
AI 智能体

DR Pixel:让深度研究智能体直接“看”论文页面

阅读约 3 分钟

导语

科学论文并不是一串可以被完整压平的文字。表格中的数值关系、图中的趋势、公式里的符号以及版面结构,往往共同决定一段研究结论的含义。然而,许多深度研究智能体仍然沿用“文档解析—OCR—文本检索”的路径,页面中的视觉信息在转换过程中可能被丢失。

论文《DR Pixel: Page-Native Deep Research with Vision-Language Models》提出了另一种思路:让视觉语言模型直接处理渲染后的论文页面,把页面图像而不是 OCR 文本作为检索和推理的基本单位。

核心要点

  • 页面原生检索与推理:DR Pixel 使用论文页面图像完成信息检索、证据读取和答案生成,不再把 OCR 文本作为唯一中间表示。
  • 面向复杂科学文档的评测:研究团队构建了 DRPixelBench,问题覆盖文本、图表、表格和公式等多种信息形态,并在约 106 万页的语料上运行系统。
  • 无需训练也展现竞争力:在摘要所列的多种先进模型上,页面原生方案优于 OCR 基线,同时需要更少的工具调用。这说明视觉输入并不只是对文本流程的补充,也可能成为更直接的研究接口。
  • 改进智能体训练:教师轨迹通常包含有效步骤、重复尝试和失败行动。DR Pixel 引入“反事实信用重加权”,按照某一步骤对最终答案的反事实贡献,为不同推理和行动步骤分配更细粒度的权重。
  • 训练后效果继续提升:该方法使 DRPixelBench 的检索召回率提升约 15 个百分点,最终准确率提升超过 10 个百分点,并在其他基准上超过未训练版本。在分布外的 ViDoRe-V3 上,系统与直接获得正确页面的理想上限之间仅相差 1.8 个百分点。

意义与影响

DR Pixel 的价值不只在于增加了一个多模态智能体,而在于重新审视了文档研究的中间表示。OCR 擅长把页面变成可搜索文本,但它并不天然理解二维布局,也可能无法完整表达图表、公式和视觉强调关系。直接以页面为单位,可以让模型在同一输入中看到文字及其空间上下文,减少转换环节带来的信息损失。

这一路线也改变了检索系统的设计重点:系统需要回答的不只是“哪些词匹配”,还要判断哪一页包含能支持问题的视觉证据。对于论文问答、专利分析、技术报告审阅等任务,这种能力尤其重要。

当然,页面图像方案仍需面对图像编码成本、超长文档管理和证据可追溯性等工程问题。当前结果更适合被理解为一个有力的研究信号,而不是 OCR 流程已经全面退出。随着视觉语言模型推理成本下降,页面原生检索可能成为深度研究智能体的重要默认选项。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
ToolSpace:用真实工具调用轨迹构建更难的长程智能体环境
AI 智能体
cctest.ai
AI 智能体

ToolSpace:用真实工具调用轨迹构建更难的长程智能体环境

ToolSpace提出一种“工具优先”的环境合成方法,从真实MCP服务和智能体语料的调用轨迹中挖掘工具依赖,再生成可执行、可验证的长程任务。实验显示,该方法能显著提升工具使用训练与评测的难度和真实性。

阅读全文