视频理解+开放网络搜索=首个视频Deep Research评测基准

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
视频理解+开放网络搜索=首个视频Deep Research评测基准
9931点击    2026-01-22 16:10

现有的多模态模型往往被困在「视频」的孤岛里——它们只能回答视频内的问题。但在真实世界中,人类解决问题往往是「看视频找线索 -> 上网搜证 -> 综合推理」。为了填补这一空白,来自QuantaAlpha、兰州大学、香港科技大学(广州)、北京大学等机构的研究者联合推出了首个视频深度研究(Video Deep Research)评测基准VideoDR。


在传统的视频问答(VideoQA)中,答案通常就在视频里。


然而,真正的智能Video Agent应该具备Deep Research的能力。


试想这样一个场景:你看到视频中博物馆的一个展品,想知道「该博物馆推荐的展品中,距离这个展品最近的那个,其注册编号是多少?」


这不仅仅需要理解视频(识别展品、定位位置),还需要跳出视频,去博物馆官网查找地图、推荐列表和编号信息。


视频理解+开放网络搜索=首个视频Deep Research评测基准

论文链接:https://arxiv.org/abs/2601.06943

代码链接:https://github.com/QuantaAlpha/VideoDR-Benchmark


VideoDR (Video Deep Research) 正是为此而生,它定义了一个全新的任务范式:


  1. 多帧视觉线索:从多个视频帧中准确识别连续的关键信息进行推理。
  2. 交互式网络搜索:在浏览器环境中进行交互,执行多跳深度搜索。
  3. 多跳推理验证:结合视频线索和网络证据,提供可验证的事实性答案。


视频理解+开放网络搜索=首个视频Deep Research评测基准


为了保证评测的含金量,VideoDR并没有采用自动化生成,而是进行了严格的人工标注与质检。


视频理解+开放网络搜索=首个视频Deep Research评测基准


双重依赖性测试:剔除了那些「只看视频就能答」或「只搜文字就能答」的样本,确保模型必须结合两者能力。


六大领域覆盖:涵盖日常生活、经济、科技、文化、历史、地理。


视频理解+开放网络搜索=首个视频Deep Research评测基准


Workflow vs. Agentic


研究人员对比了两种主流范式:


  • Workflow(工作流模式): 将视频转化为结构化文本线索,再进行搜索推理。


  • Agentic(代理模式): 模型直接端到端处理视频和搜索,自主决定何时搜索、何时思考。


评测模型:


  • 闭源模型: GPT-5.2, GPT-4o, Gemini-3-pro-preview


  • 开源模型: Qwen3-Omni-30B-a3b, InternVL3.5-14B, MiniCPM-V 4.5


核心发现与洞察


谁是目前的最强王者?


Gemini-3-pro-preview和GPT-5.2处于第一梯队,准确率达到了69%-76%左右,显著领先于其他模型。


视频理解+开放网络搜索=首个视频Deep Research评测基准


Agentic 模式一定更强吗?


答案是:不一定。


虽然 Agentic 模式更灵活,但在长视频或高难度任务中,模型容易出现目标漂移(Goal Drift)。


  • Workflow 的优势: 显式的中间文本充当了「外部记忆」,防止模型在漫长的搜索链路中忘记最初视频里的视觉细节。


  • Agentic 的短板: 一旦初始的视觉感知出现偏差,且无法回看视频,错误的搜索路径会被不断放大。


长视频是「照妖镜」


在长视频场景下,模型保持长期一致性(Long-horizon Consistency)的能力成为瓶颈。


强如Gemini-3在Agentic模式下能利用长上下文获得提升,而部分开源模型在长视频下性能反而大幅下降。


视频理解+开放网络搜索=首个视频Deep Research评测基准


视频理解+开放网络搜索=首个视频Deep Research评测基准


总结


VideoDR将视频理解的战场从封闭测试集延伸到了无限的开放网络。


评测结果深刻揭示了「端到端」并非万能药:在面对长链路搜索时,模型往往会陷入「记忆衰退」的困境。


未来的视频 Agent 只有在保持视觉线索的长程一致性上取得突破,才能真正胜任真实世界的复杂调研任务。


参考资料:

https://arxiv.org/abs/2601.06943


文章来自于“新智元”,作者 “LRST”。

AITNT-国内领先的一站式人工智能新闻资讯网站
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI工作流

【开源免费】字节工作流产品扣子两大核心业务:Coze Studio(扣子开发平台)和 Coze Loop(扣子罗盘)全面开源,而且采用的是 Apache 2.0 许可证,支持商用!

项目地址:https://github.com/coze-dev/coze-studio


【开源免费】n8n是一个可以自定义工作流的AI项目,它提供了200个工作节点来帮助用户实现工作流的编排。

项目地址:https://github.com/n8n-io/n8n

在线使用:https://n8n.io/(付费


【开源免费】DB-GPT是一个AI原生数据应用开发框架,它提供开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单、更方便。

项目地址:https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file



【开源免费】VectorVein是一个不需要任何编程基础,任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤,并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。

项目地址:https://github.com/AndersonBY/vector-vein?tab=readme-ov-file

在线使用:https://vectorvein.ai/付费

2
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md

3
免费使用GPT-4o

【免费】ffa.chat是一个完全免费的GPT-4o镜像站点,无需魔法付费,即可无限制使用GPT-4o等多个海外模型产品。

在线使用:https://ffa.chat/