5.2 ForeSci:研究判断型 agent 评测

  • 类型:arxiv
  • 标识:2606.00644
  • 链接:https://arxiv.org/abs/2606.00644
  • 主题:agent, database, engineering, evaluation, llm-infra, multimodal, rag, risk
  • 主分类:evaluation
  • 形态:benchmark
  • 被引:0
  • 被引来源:Semantic Scholar + OpenAlex
  • S2被引:0
  • OpenAlex被引:0
  • 影响力被引:0
  • TLDR:This work introduces ForeSci, a temporally controlled benchmark for evaluating whether LLM agents can make such forward-looking research judgements from historical evidence, and evaluates native LLMs, Hybrid RAG, and three research-agent adaptations across four backbones.
  • OpenAlex ID:W7163192698
  • OpenAlex DOI:10.48550/arxiv.2606.00644
  • DOI:10.48550/arxiv.2606.00644
  • DOI来源:OpenAlex
  • 开放获取:green
  • 开放获取链接:https://doi.org/10.48550/arxiv.2606.00644
  • OpenAlex更新:2026-08-23
  • TLDR中文:本文提出 ForeSci,一个时间受控的基准,用于评估 LLM Agent 是否能从历史证据中做出前瞻性研究判断,并在四种骨干模型上评测原生 LLM、Hybrid RAG 以及三种 research-agent 适配方案。
  • 副分类:agent
  • 待LLM分类:否
  • 来源文件
  • /inbox/tom/2026-06-10-agent-memory-rag-eval-radar.md
  • [S2 enrich]
  • [OpenAlex backfill]

可复用信息

    • 链接:https://arxiv.org/html/2606.07402v1
    • 看点:把用户-助理长期互动扩展到文本、图片、文档等多模态历史。抽取片段显示,把整个对话塞入上下文会在多模型上降低回答质量,尤其开放模型下降更明显。
    • 判断:适合补充“长上下文不等于长期记忆”的证据。建议进入 registry,但优先级略低于 MAGE/MRAgent。
    • 链接:https://arxiv.org/html/2606.00644v2
    • 看点:从文献 QA 转向评估 research agent 的方向预测、瓶颈诊断、战略规划与 venue/community 判断。
    • 判断:与“学术研究知识库运营”本身高度相关,但需要审稿其任务构造是否足够客观。建议进入 registry,标注为 research-agent-eval。
    • 链接:https://github.com/volcengine/OpenViking
    • 看点:README 给出 OpenViking 0.3.22 在 LoCoMo、agent experience memory、HotpotQA 上的评测;HotpotQA top-20 检索声称达到 91% accuracy,延迟 0.23s。

写作用途

  • 可放入 RAG / 知识库 / 检索增强相关工作的对比段。
  • 可用于 Agent 架构、记忆、工具调用或多智能体研究背景。
  • 可用于多模态推理、视觉语言模型或长上下文多模态问题定义。
  • 可用于系统实现、实验平台或工程约束说明。
  • 可用于局限性、风险、失效模式和未来工作。

待补齐

  • BibTeX / 正式引用格式
  • 方法与实验设置细节
  • 与现有工作的差异点
  • 是否有代码和数据集