evaluation · 知识库活文档

  • 更新:R106 5 件 NET-new paper_card + ForzaHorizon leaderboard + 2 件推理引擎对比 + 8 条搜索线索不升锚

0. 范围与定调

LLM / Agent / RAG / 多模态 / 具身系统评测 · 方法学 + 工程化 + 平台基础设施。锚定 2026 年 10 月中旬。

R105 范式跃迁(第八十三重 · 2026-10-15 · 锚消化窗口·IR 评测补齐期):本轮 Tom E1 预消化清单命中 8 件 material sources(2 件 repo_card + 5 件 inbox/jay IR 工程实践线索 + 1 件 inbox/jay 推理框架线索)——关键判定:(a) 2 件 repo_card 锚定——langfuse/langfuse(35,838 stars · +476 weekly · YC W23 · 主分类 evaluation · 升正式锚 228 ★★★ 评测平台与 CI Gate 范式跃迁)+ AI-Efficiency/Awesome-Model-Quantization(2,455 stars · +0 weekly · 主分类 llm-infra · eval 邻接 · 不升正式锚 归 §7.5 行业可观察信号段);(b) 4 件 NET-new paper 锚预备级 224-227——arXiv:2610.18410 Graph-free Retrieval Graph-Modified Embeddings(IR 证据召回 +25.9%)+ arXiv:2610.17823 PR-entmax Popularity Bias(推荐系统流行度偏差校正稀疏概率映射)+ arXiv:2610.18622 Structural Segmentation Brazilian Legal(长文档检索结构化分段)+ arXiv:2610.17841 FASHION-RQ Hierarchical Semantic Auto-Eval(垂类检索自动评测)——4 件 IR/retrieval 评测方法学辅证 R104 NoLiMa 长上下文评测失真反方;(c) 5 件 search_snippet_only 线索不升正式锚——CSDN 大模型落地 2 条 + X 硬核干货雷达 3 条 + blogs-discovery 8 条(含 2024 年初 Kaitchup #24 过期线索)——均归 §7.5 行业可观察信号段;(d) 本轮零 web_search——严格遵守清单边界;(e) R105 锚映射:锚 224-227(IR/retrieval 评测预备级群)+ 228 Langfuse(升正式锚)+ 229 Awesome-Quantization(不升正式锚)。

R104 范式跃迁(第八十二重 · 2026-10-14 · 低信号诚实度深化):本轮 Tom E1 预消化清单命中 8 件 material sources(6 件 paper_card + 2 件 repo_card + inbox jay CSDN discovery + inbox flyp NoLiMa critical-read)。关键判定:(a) 6 件 paper_card 中仅 1 件为真 NET-new——arXiv:2610.12998(Evaluating LLM Creativity through Long-Tail Performance)——已 R103 锚定的 5 件(2610.11069 + 2610.12975 + 2610.12102 + 2610.12939 + 2609.38527)严格遵守清单边界、不二次重复展开——R104 是 R103 6 件密集锚定后的"边界克制窗口期延续";(b) 2 件 repo_card 均为 eval 邻接——mikhaeelatefrizk/affect-labeling-review(PRISMA 2020 + RoB 2/ROBINS-I 系统综述与 Meta 分析,k=8,约 10,500 词手稿,多模态 PRISMA 实证)+ rafaelgross/baseref(PRISMA 2020 系统性文献综述管理开源 Web 系统,academic-writing 工具)+ Fei2411/DeepSeek-Bot(DeepSeek Harness 长寿 bot,harness 工程信号)——均不升正式锚,归入 §7.5 行业可观察信号段;(c) 1 件 inbox 反方审稿证据——flyp 2026-10-14 NoLiMa(arXiv:2502.05167 ICML 2025 Poster)——揭示 NIAH/RULER 系反例评测——Llama 3.3 70B 声称 128K,NoLiMa 上有效长度仅 8K;GPT-4o/Claude/Gemini 头部模型在 32K 处普遍腰斩——长上下文评测失真维度反方实证——新增锚预备级 220 ★;(d) 本轮零 web_search——严格遵守清单边界。R104 锚映射:锚预备级 219 LLM Creativity Long-Tail(升锚候选)+ 220 NoLiMa(升档)+ 221 affect-labeling-review + 222 baseref + 223 DeepSeek-Bot(均不升正式锚)。

R103 范式跃迁(第八十一重 · 2026-10-13 · 信号期实质增量):6 件 NET-new(2610.11069 Clinician-Use Divergence + 2610.12975 SmartSalesBench + 2610.12102 Data-Space DMD + 2610.12939 Activation Wave + 2609.38527 Behavioral Persistence + 2610.09280 2D→3D Comm. Migration)——形成:(a) eval-to-use distribution shift 第十层方法学维度(锚 213);(b) LLM-as-Judge 第十元(persona-抗性)(锚 214);(c) Generative DMD matched-budget(锚 215 预备级);(d) inference system eval 三段演化第三段(锚 216);(e) emergent comm. 双基础(锚 217-218)。R104 沿用不重复展开。

R102-R98 累积骨架:详见 archive evaluation-changelog.md。

R106 范式跃迁(第八十四重 · 2026-10-16 · 评测基线回望 + 数据准备自演化 + 推理引擎对比双轨):本轮 Tom E1 预消化清单命中 8 件 material sources(3 件 paper_card + 1 件 repo_card + 4 件 inbox/jay)。关键判定:(a) 3 件 paper_card——arXiv:2206.14858 GSM8K(S2 2077 + 150 影响力被引 · 主分类 evaluation/benchmark · 定量推理 long-tail 历史锚)——不升正式锚·归 §7.5 历史地标段;arXiv:2606.07001 DataEvolver(S2 3 · 主分类 engineering/agent · 多层级自演化 + 下游 LLM +10 分)——Eval-to-Use Distribution Shift R103 锚 213 姊妹范式;arXiv:2603.15031 Raschka 2026 Q1-Q5 论文清单(S2 72 · 主分类 llm-infra/survey)——不升正式锚;(b) 1 件 repo_card——Dyotson/ForzaHorizon1-ReImagined(153 stars · +413 weekly · 主分类 evaluation/app)——leaderboard/rivals/fps 三重指标——评测 = leaderboard 范式在游戏工程中的实战案例——不升正式锚;(c) engineering-brief 4 件——arXiv:2610.20578 SquashFS HPC I/O(cs.IR + cs.DC)+ arXiv:2610.20122 XViewRank LLM 增强稀疏检索 overlap-conditioned score fusion(cs.IR)+ Magnetar MSR ZK 通用计算(microsoft.com)+ Fireship Runtime wars Node 胜出(YouTube·未经文字抓取·结论权重降级);(d) blogs-discovery 高价值原文已核 2 条——menuagentic.com vLLM/SGLang/TensorRT-LLM/Dynamo 横向对比(Dynamo 是路由器非引擎 + 多副本缓存命中率变为路由属性 + TGI 2026-03-21 归档)+ taekim.substack.com Ian Buck 访谈(GPU 软件栈深度胜出 ASIC + Vera Rubin 3X→72h 6X + Dynamo 升级为数据中心推理管理 OS);(e) csdn 8 条 + csdn0820 2 条 均搜索线索;(f) 本轮零 web_search;(g) R106 锚映射:锚预备级 230 GSM8K(不升)+ 231 DataEvolver + 232 Raschka + 233 ForzaHorizon(不升)+ 234-235 SquashFS/XViewRank + 236 Magnetar(不升)+ 237 Fireship Runtime wars(不升)。

1. 评测设计方法学

1.1 评测诚信 10 层 + NoLiMa 反方层级

R88-R97 八层 + R98 Harness 自演进第九层 + R101 Harness 反方校验 + R102 harness-delta-attribution 同期反思 + R103 Eval-to-Use Distribution Shift 第十层 + R104 NoLiMa 长上下文评测失真反方层级:NIAH/RULER 系评测系统性高估真实可用长度——Llama 3.3 70B 128K → NoLiMa 8K——与 R91 False Frontiers + R91 Mid-Harness + R103 Clinician-Use Divergence 形成"评测失真多维度"——锚预备级 220 ★。

1.2 LLM-as-Judge 失效模式 10 元(R104 沿用 R103)

R100 Opera 反馈追踪第七元 → R101 AgentJudgeBench DAG 第八元 + HarnessDev 任务依赖第九元预备 → R102 沿用 → R103 SmartSalesBench 第十元 persona-抗性。R103 SmartSalesBench(arXiv:2610.12975)——抗性买家 persona 多轮对话——LLM-as-Judge 第十元——锚 214 ★★。

判别趋势:评测时机(评估前 + 评估中 + 评估后)+ 评测结构(DAG 拓扑 vs 单步 vs 多步 vs 多轮)+ 评测角色(persona 抗性)三维首次形式化。

1.3 Harness 自演进 + 评测三角 + Generative DMD matched-budget 邻接

详见 R98-R103 归档;R104 沿用不展开。

1.4 R104 NET-new 单一锚:LLM Creativity Long-Tail Performance

R104 锚预备级 219 LLM Creativity Long-Tail(arXiv:2610.12998 · paper_card 1788 · 主分类 evaluation/benchmark)——唯一本轮真 NET-new:

  • 核心问题:现有 creativity benchmarks 极度异质(15 项 benchmark + 26 个 open-weight 模型评测)——是否捕捉共同"创造力"概念?
  • 形式化创新:把"创造力"重新定义为参考输入-输出分布长尾中的任务特定性能(performance in the long tail of a reference input-output distribution)
  • 理论基础:novelty-quality product 形式化(新颖度 × 质量乘积)
  • 评测方法:(i) 用 n-gram 在预训练数据中缺席作为新颖度代理;(ii) 评测 15 项 benchmark × 26 个 open-weight 模型;(iii) 任务特定性能作为长尾分布指标
  • 方法学定位:与 R92 LexReward + R99 ThinkingBox + R102 alignment 反方形成"创造力/奖励/认知/对齐"四向评测方法学群——评测诚信从"指标失真"向"指标语义"深化
  • 长尾性能作为新评测语义维度——2026 Q4 评测方法学从"代表性抽样"走向"长尾聚焦"语义转向
  • ⚠️ 待核验:原文 §5 经验方法 + 26 模型清单 + 15 benchmark 子集分布 + 长尾分布阈值选择
  • 锚预备级 219 ★ 升锚候选 R105 跟进

1.5 R101 Hebero train-vs-eval 范式二分(与 RobotWorld arXiv:2610.10409 二分)+ R104 NoLiMa 长上下文评测失真反方

NoLiMa / No Literal Match 对照表:

维度 NIAH / RULER(被批判) NoLiMa(反方)
needle-question 词面重叠 高(字面匹配) 极小(隐式联想)
失败主因 位置偏差(lost-in-the-middle) 长度本身是关键瓶颈
12-13 模型 32K 准确率 维持较高 多数跌一半
Llama 3.3 70B 有效长度 声称 128K 实测仅 8K
GPT-4o/Claude/Gemini 32K 维持 普遍腰斩
推理模型(CoT) 提升 不根治
数据构造 自然 needle 50 虚构 "人–目标/物品"

R104 锚预备级 220 NoLiMa ★:与 R91 False Frontiers + R91 Mid-Harness + R103 Clinician-Use Divergence 形成"评测失真四维度"——指标失真 + 联合优化 + 环境破坏 + 临床/长上下文脱节。

1.6 R104 repo_card 三件预备级

  • 221 affect-labeling-review(PRISMA Meta)(mikhaeelatefrizk/affect-labeling-review · multimodal 主/eval 副)——情感标注 PRISMA Meta 分析 k=8——RoB 2/ROBINS-I——约 10,500 词手稿——多模态 PRISMA 评测方法学预备——不升正式锚
  • 222 baseref(PRISMA Sys-Review 管理系统)(rafaelgross/baseref · academic-writing 工具)——PRISMA 2020 综述管理 Web 系统——评估报告管理工具预备——不升正式锚
  • 223 Fei2411 DeepSeek-Bot(harness 工程信号)(fei2411/deepseek-bot · 1741 stars · Apache-2.0 · agent harness)——DeepSeek Harness 长寿 bot——不升正式锚

1.7 R105 Langfuse 升正式锚 + IR/retrieval 评测预备级群

R105 锚 228 Langfuse Platform ★★★(升正式锚)(langfuse/langfuse · 35,838 stars · +476 weekly · TypeScript · Apache NOASSERTION · YC W23 · 主分类 evaluation · 成熟度 production · 2026-06-30 首次采集 → 2026-10-15 升级):

  • 平台定位:开源 LLM 应用评测与可观测性一体化平台——Trace + Evaluate + Prompt 管理 + Playground + Dataset + 指标 + 可观测性——评测 + 可观测性工程范式首次合并为单一开源工件
  • 集成栈:OpenTelemetry · LangChain · OpenAI SDK · LiteLLM(多模型路由)
  • 形态:production-grade dataset + eval + harness 二合一基础设施
  • 范式跃迁意义:与 R75-R103 累积的 33 件评测平台相比——Langfuse 是 唯一一个把 harness 工程化与 CI Gate 范式合并在同一工件 的开源平台——R105 评测平台与 CI Gate 范式跃迁第八重(继 R100 benchmark-radar day46 + R102 harness-delta-attribution + R103 LangChain State of Agent Engineering 89%/52% gap + R104 NoLiMa flyp critical-read 之后)
  • 方法学邻接:与 R60-R104 累积的 96 维 + 33 邻接维评测对象矩阵深度互锁——评测平台与评测方法学双轴首次出现开源统一工件

R105 锚预备级 224-227 IR/retrieval 评测方法学群 ★:

  • 224 Graph-free Retrieval with Graph-Modified Embeddings(arXiv:2610.18410 · jay 2026-10-15 engineering-brief · 主分类 eval/IR 邻接 · paper_card 待建)——5 种离线 graph-modified embedding 策略——合成专业网络数据集 + 多阶段策略相对纯向量检索证据召回最高 +25.9%——IR 评测证据路径维度首次形式化
  • 225 PR-entmax Popularity Bias(arXiv:2610.17823 · jay 2026-10-15 engineering-brief · 主分类 eval/推荐系统 邻接 · paper_card 待建)——PR-entmax 嵌入稀疏概率映射——流行度偏差校正上下文相关——推荐系统评测偏差校正新范式
  • 226 Structural Segmentation Brazilian Legal(arXiv:2610.18622 · jay 2026-10-15 engineering-brief · 主分类 eval/long-doc 邻接 · paper_card 待建)——文档级检索稀释问题——结构化分段策略——长文档评测粒度新维度
  • 227 FASHION-RQ Hierarchical Semantic Auto-Eval(arXiv:2610.17841 · jay 2026-10-15 engineering-brief · 主分类 eval/retrieval 邻接 · paper_card 待建)——垂类检索自动评测——层次语义挖掘——评测对象本身的评测语料构建 评测方法学元级预备

判定:(i) R105 4 件 NET-new 全部聚焦 IR/retrieval 评测方法学——与 R104 NoLiMa 长上下文评测失真反方形成长上下文 + IR 证据路径 + 推荐偏差 + 长文档粒度 + 垂类检索五维度评测失真反方群;(ii) Langfuse 升正式锚是 R105 唯一件主分类 evaluation 平台/工具正式锚——补齐了 R60-R104 累积的评测方法学密集 / 平台兼跨工件稀疏结构性缺口;(iii) 本轮 5 件 search_snippet_only 线索严格遵守清单边界不升正式锚——边界克制延续 R104 判例。

1.8 R106 DataEvolver + GSM8K + Raschka + ForzaHorizon 锚预备级群

R106 锚预备级 231 DataEvolver 数据准备自演化 ★(arXiv:2606.07001 · paper_card · 主分类 engineering/agent + eval 邻接 · 2026-06 v2 · S2 3)——Eval-to-Use Distribution Shift R103 锚 213 姊妹范式:多层级自演化自动构建数据准备 pipeline;下游 LLM 性能提升平均 10 分(vs 原始数据训练);与 R103 Clinician-Use Divergence 形成"数据准备自演化 + 临床查询分布偏移"双轴——评测数据供应链上游首次形式化自演化——⚠️ 待核验层级间反馈机制 + 测试集分布。

R106 锚预备级 230 GSM8K 历史地标 ★ 不升正式锚(arXiv:2206.14858 · paper_card · 主分类 evaluation/benchmark · S2 2077 + 150 影响力被引 · 2022 早期)——R104 LLM Creativity Long-Tail 锚 219 沿用的历史坐标系——定量推理 long-tail 代表性基准——归 §7.5 历史地标段。

R106 锚预备级 232 Raschka 2026 Q1-Q5 论文清单 ★ 不升正式锚(arXiv:2603.15031 · paper_card · 主分类 llm-infra/survey · S2 72)——评测综述导航预备级——Jan-May 2026 LLM 论文清单综述——归 §7.5 综述信号段。

R106 锚预备级 233 Dyotson ForzaHorizon1-ReImagined leaderboard ★ 不升正式锚(Dyotson/ForzaHorizon1-ReImagined · 153 stars · +413 weekly 极高周增 · MIT · 主分类 evaluation/app · 2026-10-15 首次采集)——Forza Horizon (Xbox 360) 原生 PC 复刻 + leaderboard + rivals + 120/144 fps + 自托管 server——与 R100 benchmark-radar day46 + R105 Langfuse 形成"benchmark → leaderboard → 平台"评测基础设施连续谱系——归 §7.5 行业可观察信号段。

R106 锚预备级 234 arXiv:2610.20578 SquashFS HPC I/O ★ 邻接预备级(jay 2026-10-16 engineering-brief · cs.IR + cs.DC · paper_card 待建)——HPC 数据集 I/O 优化——训练/评测数据供给效率——⚠️ 待核验真实生产环境 benchmark + 与其他打包格式对比。

R106 锚预备级 235 arXiv:2610.20122 XViewRank LLM 增强稀疏检索 ★ 邻接预备级(jay 2026-10-16 engineering-brief · cs.IR · paper_card 待建)——overlap-conditioned score fusion——RAG pipeline 检索排序评测——与 R104 NoLiMa 长上下文评测失真反方 + R105 Graph-free Retrieval IR 证据路径形成长上下文 + IR 证据路径 + 检索 score fusion 三维度——⚠️ 待核验跨领域数据集表现 + 代码/权重开源。

R106 锚预备级 236 Magnetar MSR ZK 通用计算 ★ 不升正式锚(jay 2026-10-16 engineering-brief · microsoft.com)——支持 Rust/Go/C,证明速度比前最优系统快 10–39 倍——AI agent 合规性验证 + 传统审计替代——归 §7.5。

R106 锚预备级 237 Fireship Runtime wars Node 胜出 ★ 不升正式锚(jay 2026-10-16 engineering-brief · YouTube · l3L_lETiSzc)——runtime 工程化趋势·科普权重降级·视频未经文字抓取——归 §7.5。

2. 评测工程化

2.1 Harness + Judge 累积(R60 → R104)

R103 + 6 件 NET-new + R104 + 1 件 NET-new(2610.12998)+ 4 件预备级 = 347 → 352 件 harness/benchmark 套件 + 162 → 167 邻接维(R104 +5)+ 126 件 EDD 沿用。

R105 + 4 件 NET-new IR/retrieval paper 锚预备级 224-227 + 1 件 Langfuse 正式锚 228 = 352 → 357 件 harness/benchmark 套件 + 167 → 172 邻接维(R105 +5)+ 126 → 127 件 EDD(R105 +1 Langfuse 评测平台 EDD)。

R106 + 6 件(3 paper_card + 1 repo_card + 2 engineering-brief paper 锚预备级 234-235)= 357 → 363 件 harness/benchmark 套件 + 172 → 180 邻接维(R106 +8)+ 127 → 128 件 EDD(R106 +1 ForzaHorizon leaderboard EDD)。

2.2 评测平台与 CI Gate

R103 §2.2 沿用;R104 +1 锚预备(NoLiMa)+ 3 件预备级(affect-labeling-review / baseref / deepseek-bot);R105 Langfuse 升正式锚 228 ★★★ 评测平台与 CI Gate 范式跃迁第八重 + 4 件 IR/retrieval 锚预备级 + 1 件工具预备级(Awesome-Quantization)。

2.3 Harness 生态候选(精简版)

R100 二十角沿用 + R101 不升档 第 29 节点 + R102 沿用 + R103 + Generative DMD 第 30 节点预备级 + 5 件邻接预备级 + R104 + 5 件预备级(NoLiMa + affect-labeling-review + baseref + deepseek-bot + LLM Creativity Long-Tail)= 第 31 节点预备级候选群 + R105 + 6 件(Langfuse 升正式锚 + Awesome-Quantization 预备级 + IR/retrieval 224-227 预备级)= 第 32 节点预备级候选群。

3. 维度化指标体系(R60 → R104)

R100 + Mara Chain + Hebero + Opera = 锚 199-201;R101 + RRSI + HarnessDev + HoH + AgentJudgeBench + EvoGenUI-Bench + Aspire = 锚 202-207;R102 + 4 件预备级 = 锚预备级 209-212;R103 + 6 件 NET-new = 锚 213-218:

  • 213 Clinician-Use Divergence(arXiv:2610.11069 · paper_card 1773 · R103)——35 科室 × 8 个月——eval-to-use distribution shift 第十层首批正式锚定——锚 ★★★
  • 214 SmartSalesBench(arXiv:2610.12975 · paper_card 1758 · R103)——抗性买家 persona + LLM-judge + 人工评估——LLM-as-Judge 第十元(persona-抗性)+ 长程端点第十一候选——锚 ★★
  • 215 Generative DMD matched-budget(arXiv:2610.12102 · paper_card 1774 · R103)——数据空间迭代 vs 流空间迭代 matched-training——R101 RRSI 姊妹范式——锚 ★★ 预备级
  • 216 Speculative decoding 层选择 entropy/CKA(arXiv:2610.12939 · paper_card 1761 · R103)——token 熵过滤 + entropy/CKA 层选择算法——inference efficiency eval 三段演化第三段——锚 ★ 邻接预备级
  • 217 Behavioral Persistence Comm.(arXiv:2609.38527 · paper_card 1755 · R103)——emergent communication 评测"协议可携带性"——锚 ★ 邻接预备级
  • 218 2D→3D Comm. Migration(arXiv:2610.09280 · paper_card 1754 · R103)——成功率 vs 评估时间预算近似线性——"短回合评估可能低估性能"——锚 ★ 邻接预备级

R104 锚预备级 219-223 新增:

  • 219 LLM Creativity Long-Tail(arXiv:2610.12998 · paper_card 1788 · R104 NET-new · 主分类 evaluation/benchmark)——15 项 benchmark × 26 个 open-weight 模型——novelty × quality 形式化——n-gram 缺席作为新颖度代理——长尾性能语义层——锚 ★ 升锚候选
  • 220 NoLiMa 长上下文评测失真反方(arXiv:2502.05167 · ICML 2025 Poster · LMU Munich + Adobe Research · flyp 2026-10-14 critical-read)——12-13 模型 × 多长度——Llama 3.3 70B 128K → NoLiMa 8K——评测失真第四维度(长上下文特化实证)——锚预备级 ★
  • 221 affect-labeling-review PRISMA Meta(mikhaeelatefrizk/affect-labeling-review)——情感标注 PRISMA Meta k=8——不升正式锚
  • 222 baseref PRISMA 综述管理(rafaelgross/baseref)——PRISMA 2020 综述管理 Web 系统——不升正式锚
  • 223 Fei2411 DeepSeek-Bot harness 工程信号(fei2411/deepseek-bot · 1741 stars)——DeepSeek Harness 长寿 bot——不升正式锚

R105 锚预备级 224-227 + 正式锚 228 + 工具预备 229 新增:

  • 224 Graph-free Retrieval Graph-Modified Embeddings(arXiv:2610.18410 · jay 2026-10-15 engineering-brief · 主分类 evaluation/IR 邻接)——5 种离线 graph-modified embedding 策略——证据召回最高 +25.9%——IR 评测证据路径维度首次形式化——锚 ★ 邻接预备级
  • 225 PR-entmax Popularity Bias(arXiv:2610.17823 · jay 2026-10-15 engineering-brief · 主分类 evaluation/推荐系统 邻接)——PR-entmax 嵌入稀疏概率映射——推荐系统评测偏差校正新范式——锚 ★ 邻接预备级
  • 226 Structural Segmentation Brazilian Legal(arXiv:2610.18622 · jay 2026-10-15 engineering-brief · 主分类 evaluation/long-doc 邻接)——文档级检索稀释问题——长文档评测粒度新维度——锚 ★ 邻接预备级
  • 227 FASHION-RQ Hierarchical Semantic Auto-Eval(arXiv:2610.17841 · jay 2026-10-15 engineering-brief · 主分类 evaluation/retrieval 邻接)——垂类检索自动评测——评测对象本身的评测语料构建 评测方法学元级预备——锚 ★ 邻接预备级
  • 228 Langfuse Platform(langfuse/langfuse · 35,838 stars · +476 weekly · TypeScript · YC W23 · 主分类 evaluation · production)——Trace + Evaluate + Prompt + Playground + Dataset + 可观测性一体化平台——评测 + 可观测性工程范式首次合并为单一工件——评测平台与 CI Gate 范式跃迁第八重——锚 ★★★ 正式锚
  • 229 AI-Efficiency Awesome-Model-Quantization(AI-Efficiency/Awesome-Model-Quantization · 2,455 stars · +0 weekly · 主分类 llm-infra · eval 邻接)——量化评测工具/benchmark/surveys——评测基础设施元方法学预备——不升正式锚 归 §7.5

R106 锚预备级 230-237 新增:

  • 230 GSM8K 定量推理历史地标(arXiv:2206.14858 · S2 2077 · 主分类 evaluation/benchmark)——R104 长尾性能语义维度历史坐标系·不升正式锚
  • 231 DataEvolver 数据准备自演化(arXiv:2606.07001 · 主分类 engineering/agent)——多层级自演化 + 下游 LLM +10 分——R103 锚 213 姊妹范式——锚 ★ 邻接预备级
  • 232 Raschka 2026 Q1-Q5 论文清单(arXiv:2603.15031 · S2 72 · 主分类 llm-infra/survey)——评测综述导航预备级·不升正式锚
  • 233 Dyotson ForzaHorizon1-ReImagined leaderboard(153 stars · +413 weekly · 主分类 evaluation/app)——leaderboard/rivals/fps 三重指标·不升正式锚
  • 234 arXiv:2610.20578 SquashFS HPC I/O(cs.IR + cs.DC)——HPC 数据集 I/O 优化·锚 ★ 邻接预备级
  • 235 arXiv:2610.20122 XViewRank LLM 增强稀疏检索(cs.IR)——overlap-conditioned score fusion·锚 ★ 邻接预备级
  • 236 Magnetar MSR ZK 通用计算(microsoft.com)——AI agent 合规性验证·不升正式锚
  • 237 Fireship Runtime wars Node 胜出(YouTube · 未经文字抓取)——runtime 工程化趋势·科普权重降级·不升正式锚

4. 评测方法学批判(R60 → R104)

§6.1-§6.184:R25-R99 沿用(见 archive)

§6.185-§6.186 R100+R101 沿用(见 archive + 主文件精简段)

锚 199-207 沿用。

§6.187 R103 新增 6 节(精简摘要)

§6.187.1 Clinician-Use Divergence 临床查询偏差 ★★★(arXiv:2610.11069 · paper_card 1773 · R103 锚 213)——35 科室 × 8 个月推广期——评测失真第五维度(临床特化实证)——⚠️ 待原文精读

§6.187.2 SmartSalesBench 多轮抗性 sales judge ★★(arXiv:2610.12975 · paper_card 1758 · R103 锚 214)——抗性买家 persona——LLM-as-Judge 第十元(persona-抗性)——⚠️ Big Five/DISC 维度未公开

§6.187.3-§6.187.6:Generative DMD + Activation Wave + Behavioral Persistence + 2D→3D Comm. Migration 沿用 R103 §6.187.3-6 不重复展开;锚 215-218。

§6.188 R104 新增 5 节(精简摘要)

§6.188.1 LLM Creativity Long-Tail Performance ★ 升锚候选(arXiv:2610.12998 · paper_card 1788 · R104 锚 219)——15 项 benchmark × 26 个 open-weight 模型——novelty × quality 形式化——n-gram 缺席作为新颖度代理——评测对象从"代表性抽样"走向"长尾聚焦"语义维度——与 R92 LexReward + R99 ThinkingBox + R102 alignment 反方形成"四向方法学群"——⚠️ 待原文精读 + 26 模型清单 + 15 benchmark 子集分布

§6.188.2 NoLiMa 长上下文评测失真反方 ★ 预备级升档(arXiv:2502.05167 · ICML 2025 · LMU Munich + Adobe Research · flyp 2026-10-14 critical-read · R104 锚 220)——12-13 模型 × 多长度——Llama 3.3 70B 128K → NoLiMa 8K——位置偏差不再是主因;长度本身是关键瓶颈——隐式联想能力随长度下降——与 R91 False Frontiers + R91 Mid-Harness + R103 Clinician-Use Divergence 形成"评测失真四维度"——⚠️ 待补 ablation:位置 × 长度交叉 + prompt 敏感性 + tokenization 风险

§6.188.3 affect-labeling-review PRISMA Meta ★ 不升正式锚(mikhaeelatefrizk/affect-labeling-review · R104 锚 221)——PRISMA Meta 分析 k=8——⚠️

§6.188.4 baseref PRISMA 综述管理 ★ 不升正式锚(rafaelgross/baseref · R104 锚 222)——PRISMA 2020 综述管理 Web 系统

§6.188.5 Fei2411 DeepSeek-Bot harness 工程信号 ★ 不升正式锚(fei2411/deepseek-bot · R104 锚 223)——DeepSeek Harness 长寿 bot

§6.189 R104 NoLiMa 关键判定(flyp critical-read 节选)

flyp 2026-10-14 关键判定(基于摘要 + ICML poster + HF 论文页 + 代码仓库元信息): (1) NIAH/RULER 系系统性高估真实可用长度; (2) 位置偏差不再是主因,长度本身是关键瓶颈——R91+NIAH/RULER 系评测失真维度反方审稿机制首次实证; (3) 方法学可改进方向:(i) NoLiMa-Hard 进一步压低 needle-question 词汇重叠;(ii) 位置 × 长度交叉 ablation;(iii) prompt 模板敏感性分析;(iv) 真实长文档同分布验证; (4) 可批判点:needle 是合成"虚构人–物"对,天然分布外; (5) 数据污染:未明确去污染说明; (6) 可信度评级:★★★★☆(多模型 + 多长度 + ICML 收录 + Adobe/LMU 双机构 + 持续维护仓库);单一任务族局限性本身需在引用时声明——评测方法学"反方层级"的成熟标志——不是"打倒基准",而是"扩展失真谱系"。

§6.190 R105 新增 1 节(精简摘要)

§6.190.1 Langfuse 平台正式锚定 + IR/retrieval 评测方法学预备级群 ★★★(锚 228 升正式锚 + 锚 224-227 预备级):

  • Langfuse 平台(langfuse/langfuse · 35,838 stars · +476 weekly · YC W23 · 主分类 evaluation · production)——开源 LLM 应用评测与可观测性一体化平台——评测平台与 CI Gate 范式跃迁第八重——与 R100 benchmark-radar day46 + R102 harness-delta-attribution + R103 LangChain State of Agent Engineering + R104 NoLiMa flyp critical-read 形成评测基础设施五阶范式跃迁——评测对象 96 维 + 33 邻接维 + 130 子领域(R105 维持)——与 R60-R104 累积 352 件 harness/benchmark 套件深度互锁
  • arXiv:2610.18410 Graph-free Retrieval with Graph-Modified Embeddings ★(jay 2026-10-15 engineering-brief · 锚 224 · 主分类 IIR/eval 邻接)——5 种离线 graph-modified embedding 策略——合成专业网络数据集 + 多阶段策略相对纯向量检索证据召回最高 +25.9%——IR 评测证据路径维度首次形式化——R104 NoLiMa 长上下文评测失真反方辅证——⚠️ 待原文精读:真实业务数据(法律/医疗)效果 + 图构建 pipeline 成本 + graph-modified embedding 更新频率
  • arXiv:2610.17823 PR-entmax Popularity Bias ★(jay 2026-10-15 engineering-brief · 锚 225 · 主分类 eval/推荐系统 邻接)——PR-entmax 嵌入稀疏概率映射——推荐系统评测偏差校正新范式——稀疏概率映射(PR-entmax)+ 广义变分原理支撑——⚠️ 待核验:真实离线/在线 A/B 指标 + 稀疏概率映射计算开销 + 与 IPS/DCG 对比
  • arXiv:2610.18622 Structural Segmentation Brazilian Legal ★(jay 2026-10-15 engineering-brief · 锚 226 · 主分类 eval/long-doc 邻接)——文档级检索稀释问题——结构化分段策略——长文档评测粒度新维度——可迁移至合同/财报/诊断报告——⚠️ 待核验:分段策略对段落边界歧义处理 + 与滑动窗口/命题分段对比 + 多语言法律语料迁移
  • arXiv:2610.17841 FASHION-RQ Hierarchical Semantic Auto-Eval ★(jay 2026-10-15 engineering-brief · 锚 227 · 主分类 eval/retrieval 邻接)——垂类检索自动评测——层次语义挖掘——评测对象本身的评测语料构建 评测方法学元级预备——可迁移至家居/3C/美妆——⚠️ 待核验:层次语义结构挖掘召回/精确率 + 评测自动化与传统人工评估一致性 + 跨垂类迁移

§6.191 R105 关键判定(边界克制 + 平台正式锚定双轨)

(a) 2 件 repo_card 锚定策略:langfuse 升正式锚 228(评测 + 可观测性一体化平台首次合并为单一开源工件)+ AI-Efficiency/Awesome-Model-Quantization 不升正式锚(量化评测工具/benchmark/surveys 元方法学预备级)——单轮正式锚 vs 预备级双轨制延续 R104 判例; (b) 5 件 search_snippet_only 线索严格遵守清单边界不升正式锚——CSDN 大模型落地 2 条 + X 硬核干货雷达 3 条 + blogs-discovery 8 条(含 Kaitchup #24 过期)——均归 §7.5 行业可观察信号段; (c) 4 件 NET-new paper 全部聚焦 IR/retrieval 评测方法学——与 R104 NoLiMa 长上下文评测失真反方形成长上下文 + IR 证据路径 + 推荐偏差 + 长文档粒度 + 垂类检索五维度评测失真反方群; (d) 本轮零 web_search——严格遵守禁止全库扫描、网页搜索补料指令; (e) R105 评测平台与 CI Gate 范式跃迁第八重——Langfuse 是首个评测 + 可观测性工程范式合并单一工件的开源平台——补齐了 R60-R104 累积的评测方法学密集 / 平台兼跨工件稀疏结构性缺口; (f) 5 件 search_snippet_only 摘要线索均存疑——CSDN 两篇均截断于第二章节中途且首次采集标记为搜索线索·待核查;X 硬核干货雷达 3 条均为标题 + 链接型推文;blogs-discovery 8 条 7 条为搜索线索·待核查 + 1 条 2024 年初 Kaitchup #24 过期——均严格不升正式锚,仅归 §7.5 行业可观察信号段。

5. 共识、争议与开放问题

7.1 共识(R104-R105 沿用 58,+0)

R92-R103 沿用 58 条共识。

7.2 争议(R105 167 → R106 170,+3)

R92-R105 沿用 167 条争议;R106 新增 3 件:(7) 数据准备自演化与下游性能提升的因果归因——R106 DataEvolver 下游 LLM +10 分的提升,但层级间反馈机制 + 多层级自演化贡献度 + 与 RLHF/RLAIF 数据准备对比未明;(8) 推理引擎对比与路由/管理 OS 双层语义——menuagentic.com 揭示 Dynamo 是路由器非引擎 + Ian Buck 访谈 Dynamo 升级为数据中心推理管理 OS——单一评测引擎需要同时承担推理执行 + KV 路由 + 数据中心 OS 三层职责的语义边界争议;(9) 历史锚 GSM8K 在长尾性能语义中的角色——GSM8K 作为定量推理 long-tail 历史坐标系——历史基准在 2026 Q4 长尾性能语义中是否仍是有效对照?

7.3 开放问题(R105 356 → R106 364,+8)

R92-R104 沿用 32 + R101 6 + R103 6 + R104 5 = 49 条;R105 新增 5 件:

  1. R105 Langfuse 平台评测 + 可观测性一体化工件与传统 harness 评测工具的边界(langfuse/langfuse)——Langfuse 是否会取代现有 harness 工程化路径?还是与 harness 形成评测 vs 训练双轨?——35,838 stars vs +476 weekly 的工程化领先优势 vs 学术评测基准的可重现性挑战
  2. R105 arXiv:2610.18410 Graph-free Retrieval 真实业务数据 + 图构建 pipeline 成本 + graph-modified embedding 更新频率——合成专业网络 benchmark +25.9% 提升 vs 真实法律/医疗业务数据效果未知;图构建 pipeline 一次性 vs 增量更新;graph-modified embedding 与索引同步策略
  3. R105 arXiv:2610.17823 PR-entmax 真实离线/在线 A/B + 与 IPS/DCG 对比(推荐系统评测偏差校正)——稀疏概率映射计算开销 vs 偏差校正效果;广义变分原理的理论保障 vs 真实场景工程化挑战;与 IPS / DCG / CoE 等偏差校正方法对比
  4. R105 arXiv:2610.18622 Structural Segmentation 分段策略边界 + 多语言 + 跨场景迁移(长文档评测粒度新维度)——分段策略对段落边界歧义处理 + 与滑动窗口/命题分段对比 + 多语言法律语料迁移 + 合同/财报/诊断报告跨场景迁移
  5. R105 arXiv:2610.17841 FASHION-RQ 层次语义挖掘 + 评测自动化一致性 + 跨垂类迁移(垂类检索自动评测)——层次语义结构挖掘召回/精确率 + 评测自动化与传统人工评估一致性 + 向家居/3C/美妆跨垂类迁移标注成本

R106 新增 8 件开放问题(简明):

  1. R106 DataEvolver 层级间反馈机制 + 10 分提升测试集分布 + 与 RLHF/RLAIF 数据准备对比——多层级自演化边界 + 反馈机制 + 下游性能归因 + 与人工调优对比
  2. R106 GSM8K 历史锚在长尾性能语义中的有效性(R104 锚 261)——历史基准作为 long-tail 性能对比基线的有效性
  3. R106 Raschka 综述导航预备级的实战价值(R104 锚 232)——综述导航作为评测方法学工具的实际价值
  4. R106 ForzaHorizon leaderboard 范式在主流评测领域的迁移(R104 锚 233)——leaderboard/rivals/fps 在非游戏评测领域的迁移
  5. R106 arXiv:2610.20578 SquashFS HPC I/O 真实生产环境效果——HPC 存储层优化与训练/评测数据供给效率的实际收益
  6. R106 arXiv:2610.20122 XViewRank overlap-conditioned 融合通用性——跨领域数据集表现 + 与 dense retrieval 对比 + 代码/权重开源
  7. R106 Magnetar ZK AI agent 合规性验证的工程化落地——ZK 证明速度 10-39 倍提升的实际部署可行性 + 内存与时间 trade-off
  8. R106 Fireship Runtime wars Node 胜出论据待二次验证(R104 锚 237)——Node 胜出的具体论据 + 视频未经文字抓取·结论权重降级

R92-R106 开放问题总数:54 + 8 = 62 条。

6. 趋势预判(2026 H2,R60 → R104)

R60-R106 累计 199 条趋势(R105 沿用 + R106 +4 第 199-202 条,共 199 条)。

R105 趋势主线(+4 第 195-198 条 · 精简):

    1. Langfuse 平台评测 + 可观测性工程范式首次合并为单一开源工件(★★★·R105 正式锚)——R105 langfuse/langfuse 35,838 stars + YC W23 + 主分类 evaluation + production——OpenTelemetry + LangChain + OpenAI SDK + LiteLLM 集成——评测平台与 CI Gate 范式跃迁第八重——补齐 R60-R104 累积的评测方法学密集 / 平台兼跨工件稀疏结构性缺口——2026 Q4 评测基础设施评测 vs 可观测性合并从两方向走向单一工件
    1. IR/retrieval 评测证据路径维度首次形式化(★·R105 锚预备级 224)——R105 arXiv:2610.18410 graph-modified embedding 揭示合成专业网络 benchmark 证据召回 +25.9%——离线 graph-modified embedding 策略 vs query 时图访问——评测方法学从代表性数据集走向证据路径 + 多阶段策略——2026 Q4 IR/retrieval 评测方法学证据路径维度首次形式化
    1. 推荐系统评测偏差校正从独立后处理走向概率映射内嵌新范式(★·R105 锚预备级 225)——R105 arXiv:2610.17823 PR-entmax 嵌入稀疏概率映射——PR-entmax + 广义变分原理支撑——推荐系统评测从 IPS/DCG 独立后处理走向概率映射内嵌偏差校正——2026 Q4 推荐系统评测方法学偏差校正范式转移首次形式化
    1. 长文档 + 垂类检索自动评测双轨新维度(★·R105 锚预备级 226-227)——R105 arXiv:2610.18622 Structural Segmentation + arXiv:2610.17841 FASHION-RQ Hierarchical Semantic——长文档评测粒度新维度 + 垂类检索自动评测新维度——2026 Q4 评测方法学从代表性检索数据集走向长文档 + 垂类检索双轨——评测对象从广度走向深度两极化

R106 趋势主线(+4 第 199-202 条 · 精简):

    1. 评测数据供应链上游自演化首次形式化(★·R106 锚预备级 231)——R106 DataEvolver 多层级自演化 + 下游 LLM +10 分——与 R103 Clinician-Use Divergence 形成"数据准备自演化 + 临床查询分布偏移"双轴——2026 Q4 评测方法学从"基准设计"走向"数据供应链上游自演化"
    1. RAG/IR 检索排序评测从代表性指标走向 overlap-conditioned score fusion 首次形式化(★·R106 锚预备级 235)——R106 arXiv:2610.20122 XViewRank overlap-conditioned 融合——与 R104 NoLiMa + R105 Graph-free Retrieval 形成长上下文 + IR 证据路径 + 检索 score fusion 三维度——2026 Q4 RAG/IR 检索排序评测从单一指标走向多维融合首次形式化
    1. 评测基础设施从推理引擎走向路由/管理操作系统双轨(★·R106 高价值原文已核)——menuagentic.com 揭示 Dynamo 是路由器非引擎 + Ian Buck 访谈 Dynamo 升级为数据中心推理管理 OS——评测基础设施从单一引擎走向引擎 + 路由 + 管理 OS 三层架构
    1. 游戏 leaderboard 评测范式在游戏工程中的实战案例(★·R106 不升正式锚)——R106 Dyotson/ForzaHorizon1-ReImagined 153 stars · +413 weekly · leaderboard/rivals/fps 三重指标——评测 = leaderboard 范式在游戏工程中的实战案例——2026 Q4 评测基础设施从学术 benchmark 走向游戏 leaderboard 工程化实战

R104 趋势主线(+3 第 192-194 条 · 沿用):

    1. LLM Creativity Long-Tail Performance 作为评测语义新维度(★·R104 升锚候选)——R104 arXiv:2610.12998 揭示 15 项 benchmark 异质性 + 26 个 open-weight 模型评测——novelty × quality 形式化 + n-gram 缺席作为新颖度代理——评测对象从代表性抽样走向长尾聚焦语义维度——2026 Q4 评测方法学从指标失真向指标语义深化
    1. 长上下文评测失真维度从位置偏差走向长度本身反方实证(★·R104 预备级升档)——R104 arXiv:2502.05167 flyp critical-read 揭示 NIAH/RULER 系系统性高估真实可用长度——Llama 3.3 70B 128K → NoLiMa 8K——与 R91 False Frontiers + R91 Mid-Harness + R103 Clinician-Use Divergence 形成评测失真四维度 + 长上下文特化实证
    1. PRISMA 评测方法学向多模态 + 系统综述管理工具双向延伸(★·R104 不升正式锚)——R104 affect-labeling-review(PRISMA Meta)+ baseref(PRISMA 综述管理 Web 系统)——评测报告生成与评测报告管理两条平行轨迹——2026 Q4 评测方法学从评测对象向评测报告生成与管理双向延伸

7. 平台、基础设施与生态

7.1-7.5 平台/基础设施/生态总览

33 → 34 平台(R105 +1 Langfuse,R106 不变);352 → 363 件 harness/benchmark 套件(R105 +5,R106 +6);126 → 128 件 EDD(R105 +1,R106 +1 ForzaHorizon);167 → 180 邻接维(R105 +5,R106 +8)。

R104 §7.5 行业可观察信号段(轻量补全): - affect-labeling-review PRISMA Meta(mikhaeelatefrizk/affect-labeling-review)——多模态 PRISMA 评测方法学预备——不升正式锚 - baseref PRISMA 系统综述管理工具(rafaelgross/baseref)——评估报告管理工具预备——不升正式锚 - DeepSeek-Bot harness 工程信号(fei2411/deepseek-bot · 1741 stars)——DeepSeek Harness 长寿 bot——不升正式锚 - NoLiMa 长上下文评测失真反方(arXiv:2502.05167 · ICML 2025 · flyp 2026-10-14 critical-read)——升预备级 220 ★

R105 §7.5 行业可观察信号段(轻量补全 · 1 件工具预备 + 5 件 search_snippet_only): - AI-Efficiency Awesome-Model-Quantization(AI-Efficiency/Awesome-Model-Quantization · 2,455 stars · +0 weekly · 主分类 llm-infra)——量化评测工具/benchmark/surveys——升预备级 229 不升正式锚(llm-infra 主分类 · eval 邻接) - jay CSDN discovery 2 条线索(inbox/jay/2026-10-15T1220-csdn-discovery.md)——大模型应用落地指南 + 大模型本地化部署实战——均 search_snippet_only·已核查首节·截断于第二章节中途——不升正式锚 - jay X 硬核干货雷达 3 条(inbox/jay/2026-10-15-1140-news-x-tech-radar.md)——VideoJev + Thinking Inertia + Open-Science——均标题 + 链接型推文·无评测数据无论文内文——不升正式锚 - jay 推理框架 8 条线索(inbox/jay/2026-10-15T0935-blogs-discovery.md)——vLLM vs SGLang(403)+ sgl-project/sglang + FreedomIntelligence/HuatuoGPT-3-8B + prithivMLmods/Qwen3.6-35B-A3B-FP8 + tencent/Hy3-FP8 + tencent/Hy3-preview-Base + Kaitchup #24(2024 年初过期)+ mranand 医疗 AI 部署——均 search_snippet_only·待核查——不升正式锚 - R105 4 件 IR/retrieval paper 锚预备级 224-227(jay 2026-10-15 engineering-brief · 主分类 eval 邻接)——全部聚焦 IR/retrieval 评测方法学——与 R104 NoLiMa 长上下文评测失真反方形成五维度评测失真反方群

R106 §7.5 行业可观察信号段(轻量补全 · 5 件锚预备级 + 4 件不升 + 2 件推理引擎高价值原文已核 + 4 条 CSDN 量化数据/线索):

  • arXiv:2606.07001 DataEvolver 数据准备自演化(paper_card · 主分类 engineering/agent · eval 邻接)——升预备级 231 ★ 邻接预备级
  • arXiv:2206.14858 GSM8K 定量推理历史地标(paper_card · 主分类 evaluation/benchmark · S2 2077)——不升正式锚 归 §7.5 历史地标段
  • arXiv:2603.15031 Raschka 2026 Q1-Q5 论文清单(paper_card · 主分类 llm-infra/survey)——升预备级 232 不升正式锚
  • Dyotson/ForzaHorizon1-ReImagined leaderboard(153 stars · +413 weekly · 主分类 evaluation/app)——升预备级 233 不升正式锚
  • jay engineering-brief arXiv:2610.20578 SquashFS HPC I/O(cs.IR + cs.DC)——升预备级 234 ★ 邻接预备级
  • jay engineering-brief arXiv:2610.20122 XViewRank LLM 增强稀疏检索(cs.IR)——升预备级 235 ★ 邻接预备级
  • jay engineering-brief Magnetar MSR ZK 通用计算(microsoft.com)——升预备级 236 不升正式锚
  • jay engineering-brief Fireship Runtime wars Node 胜出(YouTube · 未经文字抓取·结论权重降级)——升预备级 237 不升正式锚
  • jay blogs-discovery menuagentic.com vLLM/SGLang/TensorRT-LLM/Dynamo 横向对比(原文已核·部分截断)——Dynamo 是路由器非引擎 + 多副本缓存命中率变为路由属性 + TGI 2026-03-21 归档——不升正式锚
  • jay blogs-discovery taekim.substack.com Ian Buck 访谈(原文已核·部分截断)——GPU 软件栈深度胜出 ASIC + Vera Rubin 3X→72h 6X + Dynamo 升级为数据中心推理管理 OS——不升正式锚
  • jay csdn-discovery 1620 8 条 + jay csdn-discovery 0820 2 条——均搜索线索·条 1(512token 切块实测)+ 条 7(Cross-Encoder 忠实度 0.71→0.82 + 引用溯源降幻觉 50%)两项量化数据 来自项目实测——均不升正式锚

7.6 Harness 生态候选二十角候选(R101 沿用 + R104 预备级群)

详见 §2.3,二十角候选沿用 + R101 Harness 全生命周期三角预备级 + R103 Generative DMD matched-budget 第 30 节点预备级 + R104 第 31 节点预备级候选群(NoLiMa + affect-labeling-review + baseref + deepseek-bot + LLM Creativity Long-Tail);R105 第 32 节点预备级候选群(Langfuse 升正式锚 + Awesome-Quantization + IR/retrieval 224-227)+ R106 第 33 节点预备级候选群(GSM8K + DataEvolver + Raschka + ForzaHorizon + SquashFS + XViewRank + Magnetar + Fireship = 8 件预备级);不升档 第 29 节点。 R106 第 33 节点预备级候选群(均不升正式锚):GSM8K 230 + DataEvolver 231 + Raschka 232 + ForzaHorizon 233 + SquashFS 234 + XViewRank 235 + Magnetar 236 + Fireship 237 = 8 件预备级。

8. R75-R104 atomic missing=0 全索引

R75→R104 arXiv ID 累积完整列表(381 个,去重后按时间排序):2002.05651 2110.11334 2206.14858 2501.05444 2507.00310 2509.02473 2510.11977 2511.02230 2511.14136 2512.02282 2512.02882 2512.14629 2601.04043 2601.06112 2601.11044 2601.14242 2603.00873 2603.08835 2603.29231 2604.08988 2604.10352 2604.11978 2605.01604 2605.10286 2605.18032 2605.20530 2605.23950 2605.27922 2605.30104 2605.30434 2605.30621 2606.03335 2606.05670 2606.08367 2606.14747 2606.30639 2607.05202 2607.08028 2607.12227 2607.20468 2607.27616 2607.27816 2607.27853 2607.27888 2607.28609 2607.28661 2607.28802 2607.28887 2607.29241 2607.29677 2608.00267 2608.00677 2608.01964 2608.03451 2608.03507 2608.03700 2608.03764 2608.04003 2608.04205 2608.04302 2608.04397 2608.05013 2608.05139 2608.05747 2608.05850 2608.06301 2608.06312 2608.06329 2608.06614 2608.06729 2608.06867 2608.07545 2608.08119 2608.08160 2608.08311 2608.08466 2608.08676 2608.08722 2608.08814 2608.08914 2608.08975 2608.09096 2608.09158 2608.09766 2608.09802 2608.09805 2608.09867 2608.09888 2608.09900 2608.10708 2608.10744 2608.10875 2608.11341 2608.11745 2608.11947 2608.12036 2608.12149 2608.12314 2608.12571 2608.12743 2608.12781 2608.12875 2608.13010 2608.13120 2608.13160 2608.13417 2608.13489 2608.13505 2608.13546 2608.13547 2608.13552 2608.13558 2608.13560 2608.13588 2608.13606 2608.13760 2608.13951 2608.14022 2608.14036 2608.14106 2608.14284 2608.14340 2608.14457 2608.14546 2608.14905 2608.15022 2608.15089 2608.15127 2608.15669 2608.15763 2608.16425 2608.16590 2608.16798 2608.16859 2608.17253 2608.17271 2608.17379 2608.17393 2608.17426 2608.17528 2608.17597 2608.17950 2608.18077 2608.18184 2608.18484 2608.18489 2608.18524 2608.18565 2608.18580 2608.18613 2608.18701 2608.18940 2608.19098 2608.19197 2608.19269 2608.19583 2608.19609 2608.19799 2608.19854 2608.19880 2608.20169 2608.20202 2608.20335 2608.20336 2608.20438 2608.20574 2608.20910 2608.21031 2608.21156 2608.21159 2608.21208 2608.21249 2608.21252 2608.21360 2608.21500 2608.21832 2608.21833 2608.22510 2608.23035 2608.23200 2608.23256 2608.23552 2608.23670 2608.23691 2608.23740 2608.24479 2608.25518 2608.25529 2608.25593 2608.25798 2608.25832 2608.26005 2608.26070 2608.26200 2608.26530 2608.26623 2608.26872 2608.27260 2608.27345 2608.27448 2608.27455 2608.27456 2608.27831 2608.28122 2608.28281 2608.28833 2608.29387 2608.29464 2608.29847 2608.30005 2608.31046 2608.31100 2608.31111 2609.00006 2609.00196 2609.01437 2609.01481 2609.02783 2609.03153 2609.04061 2609.04094 2609.04148 2609.04172 2609.04173 2609.04199 2609.04280 2609.04720 2609.04753 2609.05232 2609.05258 2609.05324 2609.05339 2609.05405 2609.05779 2609.05903 2609.06011 2609.06107 2609.06245 2609.06289 2609.06746 2609.06986 2609.08149 2609.08418 2609.08832 2609.09113 2609.09219 2609.09875 2609.10016 2609.10451 2609.10539 2609.10728 2609.10895 2609.11115 2609.11873 2609.12078 2609.13141 2609.13463 2609.13948 2609.14302 2609.14857 2609.15195 2609.15818 2609.16251 2609.16816 2609.16900 2609.17320 2609.17496 2609.18123 2609.18323 2609.18487 2609.18605 2609.18620 2609.18654 2609.18748 2609.19169 2609.19656 2609.19879 2609.20715 2609.20784 2609.20804 2609.22039 2609.22076 2609.22220 2609.22255 2609.22323 2609.22682 2609.23407 2609.23989 2609.24555 2609.24972 2609.24974 2609.25001 2609.26489 2609.26550 2609.26637 2609.26777 2609.26780 2609.26781 2609.27657 2609.28470 2609.28603 2609.28654 2609.29028 2609.29167 2609.29429 2609.29647 2609.29816 2609.30192 2609.30210 2609.30243 2609.30867 2609.31093 2609.31415 2609.31506 2609.31590 2609.32577 2609.32720 2609.32810 2609.33987 2609.34227 2609.35215 2609.35718 2609.35855 2609.36138 2609.36730 2609.36965 2609.37533 2609.37559 2609.37590 2609.37690 2609.37749 2609.37863 2609.38096 2609.38137 2609.38349 2609.38527 2609.38792 2609.39071 2609.39102 2609.39378 2609.39841 2609.39903 2609.39982 2609.40222 2610.00437 2610.00559 2610.00574 2610.00812 2610.01092 2610.01428 2610.01762 2610.01767 2610.01939 2610.02185 2610.02196 2610.02201 2610.02304 2610.03020 2610.03136 2610.03140 2610.03421 2610.03430 2610.03574 2610.03632 2610.03664 2610.03715 2610.04116 2610.04292 2610.05162 2610.07753 2610.08432 2610.08902 2610.09280 2610.11069 2610.12102 2610.12939 2610.12975 2610.17823 2610.17841 2610.18410 2610.18622 2606.07001 2610.20578 2610.20122 2206.14858 2603.15031

R75-R104 URL 累积完整列表(526 项,去重后按字符排序): https://arxiv.org/abs/2606.07001 https://arxiv.org/abs/2206.14858 https://arxiv.org/abs/2603.15031 https://arxiv.org/abs/2610.20578 https://arxiv.org/abs/2610.20122 https://github.com/Dyotson/ForzaHorizon1-ReImagined https://www.microsoft.com/en-us/research/blog/proof-based-general-purpose-computing-with-magnetar/ https://www.youtube.com/watch?v=l3L_lETiSzc https://menuagentic.com/blogs/vllm-vs-sglang-vs-tensorrt-llm-vs-dynamo https://neysa.ai/blog/if-vllm-already-solved-llm-serving-why-did-sglang-appear https://solodkiy.substack.com/p/the-rebel-was-already-inside https://taekim.substack.com/p/an-interview-with-nvidias-ian-buck-975 https://mcp.csdn.net/6a85893c662f9a54cb9e944e.html https://substack.com/@systemdesignone/note/c-359913029 https://papers.cool/arxiv/2610.20578 https://papers.cool/arxiv/2610.20122 https://21yrm.github.io/apple-pi-homepage https://21yrm.io/apple-pi-homepage https://academ.us/article/2608.10875 https://aclanthology.org/2026.acl-demo.19 https://aclanthology.org/2026.acl-demo.3 https://aclanthology.org/2026.acl-demo.34 https://aclanthology.org/volumes/2026.acl-demo https://aievaluation.substack.com/p/2026-may-ai-evaluation-digest https://aiweekly.co/alerts/acl-2026-publishes-demo-track-list-heavy-on-llm-safety-tools https://aiweekly.co/alerts/coercion-benchmark-claude-never-threatens-deletion-rivals-do https://aiweekly.co/alerts/compile-by-training-reaches-836-on-fuzzybench-hard-subset https://alexeyondata.substack.com/p/what-1000-job-descriptions-reveal https://allenai.org/blog/benchmirt https://artificialanalysis.ai/evaluations/apex-agents-aa https://arxiv.org/abs/2501.05444 https://arxiv.org/abs/2509.02473 https://arxiv.org/abs/2510.11977 https://arxiv.org/abs/2511.14136 https://arxiv.org/abs/2512.02282 https://arxiv.org/abs/2512.14629 https://arxiv.org/abs/2601.04043 https://arxiv.org/abs/2601.06112 https://arxiv.org/abs/2601.11044 https://arxiv.org/abs/2601.11044(agencybench https://arxiv.org/abs/2601.14242 https://arxiv.org/abs/2603.00873 https://arxiv.org/abs/2603.08835 https://arxiv.org/abs/2603.29231 https://arxiv.org/abs/2604.10352 https://arxiv.org/abs/2604.11978 https://arxiv.org/abs/2605.01604 https://arxiv.org/abs/2605.10286 https://arxiv.org/abs/2605.18032 https://arxiv.org/abs/2605.20530 https://arxiv.org/abs/2605.23950 https://arxiv.org/abs/2605.27922 https://arxiv.org/abs/2605.30104 https://arxiv.org/abs/2605.30434 https://arxiv.org/abs/2606.05670 https://arxiv.org/abs/2606.08367 https://arxiv.org/abs/2606.14747 https://arxiv.org/abs/2606.30639 https://arxiv.org/abs/2607.08028 https://arxiv.org/abs/2607.12227 https://arxiv.org/abs/2607.20468 https://arxiv.org/abs/2607.27616 https://arxiv.org/abs/2607.27816 https://arxiv.org/abs/2607.27853 https://arxiv.org/abs/2607.27888 https://arxiv.org/abs/2607.28609 https://arxiv.org/abs/2607.28661 https://arxiv.org/abs/2607.28802 https://arxiv.org/abs/2607.28887 https://arxiv.org/abs/2607.29241 https://arxiv.org/abs/2607.29677 https://arxiv.org/abs/2608.00267 https://arxiv.org/abs/2608.00677 https://arxiv.org/abs/2608.01964 https://arxiv.org/abs/2608.03451 https://arxiv.org/abs/2608.03507 https://arxiv.org/abs/2608.03700 https://arxiv.org/abs/2608.03764 https://arxiv.org/abs/2608.04003 https://arxiv.org/abs/2608.04205 https://arxiv.org/abs/2608.04302 https://arxiv.org/abs/2608.04397 https://arxiv.org/abs/2608.05013 https://arxiv.org/abs/2608.05139 https://arxiv.org/abs/2608.05747 https://arxiv.org/abs/2608.05850 https://arxiv.org/abs/2608.06301 https://arxiv.org/abs/2608.06312 https://arxiv.org/abs/2608.06329 https://arxiv.org/abs/2608.06614 https://arxiv.org/abs/2608.06729 https://arxiv.org/abs/2608.06867 https://arxiv.org/abs/2608.07545 https://arxiv.org/abs/2608.08119 https://arxiv.org/abs/2608.08160 https://arxiv.org/abs/2608.08311 https://arxiv.org/abs/2608.08466 https://arxiv.org/abs/2608.08676 https://arxiv.org/abs/2608.08722 https://arxiv.org/abs/2608.08814 https://arxiv.org/abs/2608.08914 https://arxiv.org/abs/2608.08975 https://arxiv.org/abs/2608.09096 https://arxiv.org/abs/2608.09158 https://arxiv.org/abs/2608.09766 https://arxiv.org/abs/2608.09802 https://arxiv.org/abs/2608.09805 https://arxiv.org/abs/2608.09867 https://arxiv.org/abs/2608.09888 https://arxiv.org/abs/2608.09899 https://arxiv.org/abs/2608.09900 https://arxiv.org/abs/2608.10708 https://arxiv.org/abs/2608.10744 https://arxiv.org/abs/2608.10875 https://arxiv.org/abs/2608.11341 https://arxiv.org/abs/2608.11745 https://arxiv.org/abs/2608.12036 https://arxiv.org/abs/2608.12149 https://arxiv.org/abs/2608.12314 https://arxiv.org/abs/2608.12571 https://arxiv.org/abs/2608.12743 https://arxiv.org/abs/2608.12781 https://arxiv.org/abs/2608.12875 https://arxiv.org/abs/2608.13010 https://arxiv.org/abs/2608.13120 https://arxiv.org/abs/2608.13160 https://arxiv.org/abs/2608.13417 https://arxiv.org/abs/2608.13489 https://arxiv.org/abs/2608.13505 https://arxiv.org/abs/2608.13546 https://arxiv.org/abs/2608.13547 https://arxiv.org/abs/2608.13552 https://arxiv.org/abs/2608.13558 https://arxiv.org/abs/2608.13560 https://arxiv.org/abs/2608.13588 https://arxiv.org/abs/2608.13606 https://arxiv.org/abs/2608.13760 https://arxiv.org/abs/2608.13951 https://arxiv.org/abs/2608.14022 https://arxiv.org/abs/2608.14036 https://arxiv.org/abs/2608.14106 https://arxiv.org/abs/2608.14284 https://arxiv.org/abs/2608.14340 https://arxiv.org/abs/2608.14457 https://arxiv.org/abs/2608.14546 https://arxiv.org/abs/2608.14905 https://arxiv.org/abs/2608.15022 https://arxiv.org/abs/2608.15089 https://arxiv.org/abs/2608.15127 https://arxiv.org/abs/2608.15669 https://arxiv.org/abs/2608.15763 https://arxiv.org/abs/2608.16425 https://arxiv.org/abs/2608.16590 https://arxiv.org/abs/2608.16798 https://arxiv.org/abs/2608.16859 https://arxiv.org/abs/2608.17253 https://arxiv.org/abs/2608.17271 https://arxiv.org/abs/2608.17379 https://arxiv.org/abs/2608.17393 https://arxiv.org/abs/2608.17426 https://arxiv.org/abs/2608.17528 https://arxiv.org/abs/2608.17597 https://arxiv.org/abs/2608.17950 https://arxiv.org/abs/2608.18077 https://arxiv.org/abs/2608.18184 https://arxiv.org/abs/2608.18484 https://arxiv.org/abs/2608.18489 https://arxiv.org/abs/2608.18524 https://arxiv.org/abs/2608.18565 https://arxiv.org/abs/2608.18580 https://arxiv.org/abs/2608.18701 https://arxiv.org/abs/2608.19098 https://arxiv.org/abs/2608.19269 https://arxiv.org/abs/2608.19799 https://arxiv.org/abs/2608.19854 https://arxiv.org/abs/2608.19880 https://arxiv.org/abs/2608.20169 https://arxiv.org/abs/2608.20202 https://arxiv.org/abs/2608.20335 https://arxiv.org/abs/2608.20336 https://arxiv.org/abs/2608.20438 https://arxiv.org/abs/2608.20574 https://arxiv.org/abs/2608.20910 https://arxiv.org/abs/2608.21031 https://arxiv.org/abs/2608.21156 https://arxiv.org/abs/2608.21159 https://arxiv.org/abs/2608.21208 https://arxiv.org/abs/2608.21249 https://arxiv.org/abs/2608.21252 https://arxiv.org/abs/2608.21360 https://arxiv.org/abs/2608.21500 https://arxiv.org/abs/2608.21833 https://arxiv.org/abs/2608.22510 https://arxiv.org/abs/2608.23035 https://arxiv.org/abs/2608.23200 https://arxiv.org/abs/2608.23256 https://arxiv.org/abs/2608.23552 https://arxiv.org/abs/2608.23670 https://arxiv.org/abs/2608.23691 https://arxiv.org/abs/2608.23740 https://arxiv.org/abs/2608.24479 https://arxiv.org/abs/2608.25518 https://arxiv.org/abs/2608.25529 https://arxiv.org/abs/2608.25593 https://arxiv.org/abs/2608.25798 https://arxiv.org/abs/2608.25832 https://arxiv.org/abs/2608.26005 https://arxiv.org/abs/2608.26070 https://arxiv.org/abs/2608.26200 https://arxiv.org/abs/2608.26530 https://arxiv.org/abs/2608.26623 https://arxiv.org/abs/2608.26872 https://arxiv.org/abs/2608.27260 https://arxiv.org/abs/2608.27345 https://arxiv.org/abs/2608.27448 https://arxiv.org/abs/2608.27455 https://arxiv.org/abs/2608.27456 https://arxiv.org/abs/2608.27831 https://arxiv.org/abs/2608.28122 https://arxiv.org/abs/2608.28281 https://arxiv.org/abs/2608.28833 https://arxiv.org/abs/2608.29387 https://arxiv.org/abs/2608.29464 https://arxiv.org/abs/2608.29847 https://arxiv.org/abs/2608.30005 https://arxiv.org/abs/2608.31046 https://arxiv.org/abs/2608.31100 https://arxiv.org/abs/2608.31111 https://arxiv.org/abs/2609.00196 https://arxiv.org/abs/2609.01437 https://arxiv.org/abs/2609.02783 https://arxiv.org/abs/2609.03153 https://arxiv.org/abs/2609.04061 https://arxiv.org/abs/2609.04094 https://arxiv.org/abs/2609.04148 https://arxiv.org/abs/2609.04172 https://arxiv.org/abs/2609.04173 https://arxiv.org/abs/2609.04199 https://arxiv.org/abs/2609.04280 https://arxiv.org/abs/2609.04720 https://arxiv.org/abs/2609.04753 https://arxiv.org/abs/2609.05232 https://arxiv.org/abs/2609.05258 https://arxiv.org/abs/2609.05324 https://arxiv.org/abs/2609.05339 https://arxiv.org/abs/2609.05405 https://arxiv.org/abs/2609.05779 https://arxiv.org/abs/2609.05903 https://arxiv.org/abs/2609.06011 https://arxiv.org/abs/2609.06107 https://arxiv.org/abs/2609.06245 https://arxiv.org/abs/2609.06289 https://arxiv.org/abs/2609.06746 https://arxiv.org/abs/2609.08149 https://arxiv.org/abs/2609.08418 https://arxiv.org/abs/2609.08832 https://arxiv.org/abs/2609.09113 https://arxiv.org/abs/2609.09219 https://arxiv.org/abs/2609.09875 https://arxiv.org/abs/2609.10016 https://arxiv.org/abs/2609.10451 https://arxiv.org/abs/2609.10539 https://arxiv.org/abs/2609.10728 https://arxiv.org/abs/2609.10895 https://arxiv.org/abs/2609.11115 https://arxiv.org/abs/2609.11873 https://arxiv.org/abs/2609.12078 https://arxiv.org/abs/2609.13141 https://arxiv.org/abs/2609.13463 https://arxiv.org/abs/2609.13948 https://arxiv.org/abs/2609.14302 https://arxiv.org/abs/2609.14857 https://arxiv.org/abs/2609.15195 https://arxiv.org/abs/2609.15818 https://arxiv.org/abs/2609.16251 https://arxiv.org/abs/2609.16816 https://arxiv.org/abs/2609.16900 https://arxiv.org/abs/2609.17320 https://arxiv.org/abs/2609.17496 https://arxiv.org/abs/2609.18123 https://arxiv.org/abs/2609.18323 https://arxiv.org/abs/2609.18605 https://arxiv.org/abs/2609.18620 https://arxiv.org/abs/2609.18748 https://arxiv.org/abs/2609.19169 https://arxiv.org/abs/2609.19656 https://arxiv.org/abs/2609.19879 https://arxiv.org/abs/2609.20715 https://arxiv.org/abs/2609.20784 https://arxiv.org/abs/2609.20804 https://arxiv.org/abs/2609.22039 https://arxiv.org/abs/2609.22076 https://arxiv.org/abs/2609.22220 https://arxiv.org/abs/2609.22255 https://arxiv.org/abs/2609.22323 https://arxiv.org/abs/2609.22682 https://arxiv.org/abs/2609.23407 https://arxiv.org/abs/2609.23989 https://arxiv.org/abs/2609.24555 https://arxiv.org/abs/2609.24972 https://arxiv.org/abs/2609.24974 https://arxiv.org/abs/2609.25001 https://arxiv.org/abs/2609.26489 https://arxiv.org/abs/2609.26550 https://arxiv.org/abs/2609.26637 https://arxiv.org/abs/2609.26777 https://arxiv.org/abs/2609.26781 https://arxiv.org/abs/2609.27657 https://arxiv.org/abs/2609.28470 https://arxiv.org/abs/2609.28603 https://arxiv.org/abs/2609.28654 https://arxiv.org/abs/2609.29028 https://arxiv.org/abs/2609.29167 https://arxiv.org/abs/2609.29429 https://arxiv.org/abs/2609.29816 https://arxiv.org/abs/2609.30192 https://arxiv.org/abs/2609.30243 https://arxiv.org/abs/2609.30867 https://arxiv.org/abs/2609.31093 https://arxiv.org/abs/2609.31415 https://arxiv.org/abs/2609.31415v1 https://arxiv.org/abs/2609.31590 https://arxiv.org/abs/2609.32720 https://arxiv.org/abs/2609.32810 https://arxiv.org/abs/2609.34227 https://arxiv.org/abs/2609.35215v1 https://arxiv.org/abs/2609.36730v1 https://arxiv.org/abs/2609.36965v1 https://arxiv.org/abs/2609.37559v1 https://arxiv.org/abs/2609.37749v1 https://arxiv.org/abs/2609.37863 https://arxiv.org/abs/2609.38096 https://arxiv.org/abs/2609.38137 https://arxiv.org/abs/2609.38349 https://arxiv.org/abs/2609.38527 https://arxiv.org/abs/2609.38792 https://arxiv.org/abs/2609.39071 https://arxiv.org/abs/2609.39102v1 https://arxiv.org/abs/2609.39903v1 https://arxiv.org/abs/2609.39982v1 https://arxiv.org/abs/2610.00437 https://arxiv.org/abs/2610.00559 https://arxiv.org/abs/2610.01092 https://arxiv.org/abs/2610.01428 https://arxiv.org/abs/2610.02304 https://arxiv.org/abs/2610.03020 https://arxiv.org/abs/2610.03136 https://arxiv.org/abs/2610.03421 https://arxiv.org/abs/2610.03430 https://arxiv.org/abs/2610.03574 https://arxiv.org/abs/2610.03632 https://arxiv.org/abs/2610.03664 https://arxiv.org/abs/2610.03715 https://arxiv.org/abs/2610.04116 https://arxiv.org/abs/2610.04292 https://arxiv.org/abs/2610.04292(lmbuild https://arxiv.org/abs/2610.07753(safeactbench https://arxiv.org/abs/2610.07753(safeactbench)+ https://arxiv.org/abs/2610.08432(emho https://arxiv.org/abs/2610.08432(emho)+ https://arxiv.org/abs/2610.08902 https://arxiv.org/abs/2610.09280 https://arxiv.org/abs/2610.11069 https://arxiv.org/abs/2610.12102 https://arxiv.org/abs/2610.12939 https://arxiv.org/abs/2610.12975 https://arxiv.org/abs/2610.17823 https://arxiv.org/abs/2610.17841 https://arxiv.org/abs/2610.18410 https://arxiv.org/abs/2610.18622 https://arxiv.org/html/2608.06312v1 https://arxiv.org/html/2608.10875v1 https://arxiv.org/html/2608.14905v1 https://arxiv.org/html/2609.04148v1 https://arxiv.org/html/2609.11115v1 https://arxiv.org/html/2609.18123v1 https://arxiv.org/html/2609.18620v1(r98 https://arxiv.org/html/2610.03430v1(jil https://arxiv.org/pdf/2610.04292(lmbuild https://cameronrwolfe.substack.com/p/agent-evals https://cameronrwolfe.substack.com/p/agentic-world-models https://developer.nvidia.com/blog/agent-evaluation-framework-step-level-end-to-end https://futureagi.substack.com/p/the-complete-guide-to-llm-evaluation https://github.com/21yrm/apple-pi https://github.com/AI-Efficiency/Awesome-Model-Quantization https://github.com/ai-boost/awesome-harness-engineering https://github.com/aisa-group/inferencebench https://github.com/amamisora1228/mmlongembed https://github.com/amap-ml/looparena https://github.com/andrew0613/pawbench https://github.com/gair-nlp/agencybench(r98 https://github.com/gen-verse/skill-entropy-rl https://github.com/gulucaptain/minimax-h3-reason https://github.com/hkust-nlp/loca-bench https://github.com/jiaminchen-1031/seal https://github.com/langfuse/langfuse https://github.com/maseval/maseval https://github.com/mattheliu/riskchainbench-task1 https://github.com/modalitydance/awesome-agent-as-a-judge https://github.com/pathwaycom/bdh https://github.com/run-llama/extractbench https://github.com/ulab-uiuc/agentdebug https://github.com/umwyf/criticl https://github.com/zjunlp/datamind https://github.com/zjunlp/onedayagent https://huggingface.co/blog/security-incident-july-2026 https://huggingface.co/datasets/mercor/apex-agents https://huggingface.co/papers/2608.00677 https://huggingface.co/papers/2608.05747 https://huggingface.co/papers/2608.06867 https://huggingface.co/papers/2608.07545 https://huggingface.co/papers/2608.08160 https://huggingface.co/papers/2608.09867 https://huggingface.co/papers/2608.10875 https://huggingface.co/papers/2608.11745 https://huggingface.co/papers/2608.13552 https://huggingface.co/papers/2608.13560 https://huggingface.co/papers/2608.14905 https://huggingface.co/papers/2608.15127 https://huggingface.co/papers/2608.16859 https://huggingface.co/papers/2608.19269 https://huggingface.co/papers/2608.25593 https://huggingface.co/papers/2608.26530 https://huggingface.co/papers/2608.27455 https://huggingface.co/papers/2608.28281 https://huggingface.co/papers/2608.28833 https://huggingface.co/papers/2608.29387 https://huggingface.co/papers/2608.29847 https://huggingface.co/papers/2608.30005 https://huggingface.co/papers/2608.31046 https://huggingface.co/papers/2608.31100 https://huggingface.co/papers/2608.31111 https://huggingface.co/papers/2609.00196 https://huggingface.co/papers/2609.01437 https://huggingface.co/papers/2609.02783 https://huggingface.co/papers/2609.03153 https://huggingface.co/papers/2609.04094 https://huggingface.co/papers/2609.04172 https://huggingface.co/papers/2609.04173 https://huggingface.co/papers/2609.04199 https://huggingface.co/papers/2609.06011 https://huggingface.co/papers/2609.06107 https://huggingface.co/papers/2609.11115 https://huggingface.co/papers/2609.11873 https://huggingface.co/papers/2609.13948 https://huggingface.co/papers/2609.14302 https://huggingface.co/papers/2609.14857 https://huggingface.co/papers/2609.15195 https://huggingface.co/papers/2609.16251 https://huggingface.co/papers/2609.16816 https://huggingface.co/papers/2609.16900 https://huggingface.co/papers/2609.17320 https://huggingface.co/papers/2609.17496 https://huggingface.co/papers/2609.18123 https://huggingface.co/papers/2609.18323 https://huggingface.co/papers/2609.18605 https://huggingface.co/papers/2609.18620 https://huggingface.co/papers/2609.18748 https://huggingface.co/papers/2609.19169 https://huggingface.co/papers/2609.19656 https://huggingface.co/papers/2609.19879 https://huggingface.co/papers/2609.20715 https://huggingface.co/papers/2609.20784 https://huggingface.co/papers/2609.20804 https://huggingface.co/papers/2609.22039 https://huggingface.co/papers/2609.22076 https://huggingface.co/papers/2609.22220 https://huggingface.co/papers/2609.24974 https://huggingface.co/papers/2609.25001 https://huggingface.co/papers/2609.26550 https://huggingface.co/papers/2609.26781 https://huggingface.co/papers/2609.28603 https://huggingface.co/papers/2609.28654 https://huggingface.co/papers/2609.29028 https://huggingface.co/papers/2609.29429 https://huggingface.co/papers/2609.29816 https://huggingface.co/papers/2609.30192 https://huggingface.co/papers/2609.30243 https://huggingface.co/papers/2609.30867 https://huggingface.co/papers/2609.31093 https://huggingface.co/papers/2609.31415 https://huggingface.co/papers/2609.31590 https://huggingface.co/papers/2609.38527 https://huggingface.co/papers/2610.09280 https://huggingface.co/papers/2610.11069 https://huggingface.co/papers/2610.12102 https://huggingface.co/papers/2610.12939 https://huggingface.co/papers/2610.12975 https://hugobowne.substack.com/p/stop-overengineering-your-agent-harness https://hyper.ai/en/papers/2608.10875 https://inferencebench.ai https://kenashe.ai/blog/2026-09-01-on-policy-distillation-may-be-pruning-tails-not-teaching https://koutian.is-a.dev/posts/2026/09/benchmark-radar-day46 https://lilianweng.github.io/posts/2026-07-04-harness https://martinfowler.com/articles/engineering-practices-llm.html https://maseval.readthedocs.io https://mirros-lab.github.io/harnesseval-w https://openreview.net/forum?id https://papers.cool/arxiv/2608.14905 https://papers.cool/arxiv/2609.11115 https://papers.cool/arxiv/2609.28603 https://papers.cool/arxiv/2609.29028 https://papers.cool/arxiv/2609.29429 https://papers.cool/arxiv/2609.30243 https://papers.cool/arxiv/2610.17823 https://papers.cool/arxiv/2610.17841 https://papers.cool/arxiv/2610.18410 https://papers.cool/arxiv/2610.18622 https://pawbench.github.io https://randcorporation.github.io/judge-reliability-harness https://sherlocks.ai/blog https://stolen-thoughts.com https://theaiengineer.substack.com https://theaiengineer.substack.com/p/the-ai-agents-stack-2026-edition https://usersim.ai/bibliography https://wenwen-d.github.io/blog/harness-delta-attribution https://www.actian.com/blog/databases/how-to-evaluate-vector-databases-in-2026 https://www.aimodeling.com/en/news/slug/compile-by-training-neural-functions https://www.aimodeling.com/en/news/slug/terminal-universe-trajectory-environments https://www.alphaxiv.org/abs/2608.05747 https://www.alphaxiv.org/abs/2608.09867 https://www.alphaxiv.org/abs/2608.25593 https://www.alphaxiv.org/abs/2608.27345 https://www.alphaxiv.org/abs/2608.31046 https://www.alphaxiv.org/abs/2609.04148 https://www.alphaxiv.org/abs/2609.28603 https://www.alphaxiv.org/abs/2609.28654 https://www.alphaxiv.org/abs/2609.29028 https://www.alphaxiv.org/abs/2609.29429 https://www.braintrust.dev/articles/best-ai-agent-debugging-tools-2026 https://www.datadoghq.com/state-of-ai-engineering https://www.developersdigest.tech/blog/terminal-universe-agent-trajectories https://www.explainx.ai/blog/langchain-jev-agent-evals-benchmark-september-2026 https://www.freecodecamp.org/news/ai-evaluation-engineering-build-a-production-grade-llm-evaluation-platform-handbook https://www.langchain.com/state-of-agent-engineering-2026 https://www.mercor.com/blog/introducing-apex-agents https://www.salttechno.ai/datasets/vector-database-performance-benchmark-2026 https://www.vibeleaderboard.ai/intel/3eb3f658-723d-4c4c-92ce-0439fbd62c41 https://x.com/dair_ai/status/2095880318146507139 https://x.com/jerryjliu0/status/2090204727091093841 https://x.com/omarsar0/status/2038627572108743001 https://xwang2775.github.io/horizon-leaderboard

9. 反问与遗留清单(R60 → R104)

9.1 本主题内反问(R105 252 → R106 260,+8)

R92-R105 沿用 252 件反问;R106 新增 8 件(简明):(25) DataEvolver 层级间反馈机制 + 与 RLHF/RLAIF 数据准备对比 + 下游性能归因;(26) GSM8K 历史锚在长尾性能语义中的有效性;(27) Raschka 综述导航预备级实战价值;(28) ForzaHorizon leaderboard 范式在非游戏评测迁移;(29) arXiv:2610.20578 SquashFS HPC I/O 真实生产效果;(30) arXiv:2610.20122 XViewRank overlap-conditioned 通用性 + 与 dense retrieval 对比;(31) Magnetar ZK AI agent 合规性验证;(32) Fireship Runtime wars Node 胜出论据 + 视频未经文字抓取·结论权重降级。

9.2 待补/待核验(R105 418 → R106 426,+8)

R93-R105 沿用 418 件待补;R106 新增 8 件待补(简明):(24) arXiv:2606.07001 DataEvolver 完整 TLDR + 多层级自演化机制 + 下游 +10 分测试集分布;(25) arXiv:2206.14858 GSM8K 完整 TLDR + S2 2077 + 定量推理 long-tail 历史基线;(26) arXiv:2603.15031 Raschka 2026 Q1-Q5 论文清单完整 TLDR + S2 72 + 评测综述导航实战价值;(27) Dyotson/ForzaHorizon1-ReImagined 完整 TLDR + 153 stars + +413 weekly + leaderboard/rivals/fps 三重指标;(28) arXiv:2610.20578 SquashFS HPC I/O 完整 TLDR + 真实生产环境 benchmark;(29) arXiv:2610.20122 XViewRank overlap-conditioned 融合完整 TLDR + 跨领域数据集表现 + 代码/权重;(30) Magnetar MSR ZK 通用计算完整 TLDR + AI agent 合规性验证可行性;(31) Fireship Runtime wars Node 胜出完整 TLDR + 性能/生态/企业采用率具体论据。

9.3 与其他主题交叉(R105 196 → R106 204,+8)

R93-R105 沿用 196 件交叉;R106 新增 8 件交叉(简明):(23) arXiv:2606.07001 DataEvolver(engineering/agent + eval 邻接,与 R103 形成数据准备自演化 + 临床查询分布偏移双轴);(24) arXiv:2206.14858 GSM8K(evaluation/benchmark + R104 LLM Creativity Long-Tail 邻接);(25) arXiv:2603.15031 Raschka 2026 Q1-Q5(llm-infra/survey + eval 邻接);(26) Dyotson/ForzaHorizon1-ReImagined(evaluation/app + llm-infra 邻接);(27) arXiv:2610.20578 SquashFS HPC I/O(cs.IR + cs.DC + llm-infra 邻接);(28) arXiv:2610.20122 XViewRank LLM 增强稀疏检索(cs.IR + rag/llm-application 邻接);(29) Magnetar MSR ZK 通用计算(risk/agent 合规性 + eval 邻接);(30) Fireship Runtime wars Node 胜出(engineering/runtime + eval 邻接·结论权重降级)。

本次变更

  • 2026-10-16 16:50(R106,本轮新增 · 评测基线回望 + 数据准备自演化 + 推理引擎对比双轨 · 第八十四重):8 件 material sources 摄入,真 NET-new 5 件——arXiv:2606.07001 DataEvolver 数据准备自演化(锚预备级 231 ★ 邻接预备级 · Eval-to-Use Distribution Shift R103 锚 213 姊妹范式)+ arXiv:2206.14858 GSM8K 定量推理历史地标(锚预备级 230 不升正式锚 · S2 2077)+ arXiv:2603.15031 Raschka 2026 Q1-Q5 论文清单(锚预备级 232 不升正式锚 · S2 72)+ arXiv:2610.20578 SquashFS HPC I/O(锚预备级 234 ★)+ arXiv:2610.20122 XViewRank LLM 增强稀疏检索 overlap-conditioned score fusion(锚预备级 235 ★)+ 1 件 Dyotson/ForzaHorizon1-ReImagined leaderboard(锚预备级 233 不升正式锚 · +413 weekly)+ 1 件 Magnetar MSR ZK(锚预备级 236 不升正式锚)+ 1 件 Fireship Runtime wars Node 胜出(锚预备级 237 不升正式锚 · 视频未经文字抓取·结论权重降级)。判定:(a) R106 是 R105 IR/retrieval 评测补齐期后的"评测基线回望 + 数据准备自演化 + 推理引擎对比双轨期";(b) DataEvolver 锚预备级 231 与 R103 锚 213 形成"临床查询分布偏移 + 数据准备自演化"双轴评测供应链上游方法学群;(c) 推理引擎对比双高价值原文已核——menuagentic.com vLLM/SGLang/TensorRT-LLM/Dynamo 横向对比(Dynamo 是路由器非引擎 + 多副本缓存命中率变为路由属性 + TGI 2026-03-21 归档)+ taekim.substack.com Ian Buck 访谈(GPU 软件栈深度胜出 ASIC + Vera Rubin 3X→72h 6X + Dynamo 升级为数据中心推理管理 OS)——评测基础设施从引擎走向路由/管理 OS 双轨首次形式化;(d) 2 篇 CSDN 量化数据——条 1(512token 切块实测)+ 条 7(Cross-Encoder 忠实度 0.71→0.82 + 引用溯源降幻觉 50%)——均不升正式锚;(e) 4 件历史锚 + 综述导航 + 游戏 leaderboard + ZK + Runtime wars 均归 §7.5 行业可观察信号段;(f) 本轮零 web_search;(g) R106 主文件 62KB → 候选 ≤80KB。R106 一句话:5 件 NET-new paper_card + 1 件 leaderboard + 1 件 ZK + 1 件 Runtime wars + 推理引擎对比双高价值 + 8 条 CSDN 搜索线索。

  • 2026-10-15 16:50(R105,沿用简略段):4 件 IR/retrieval NET-new 预备级 + Langfuse 正式锚 + Awesome-Quantization 工具预备 + 5 件 search_snippet_only 行业线索。R105 完整段已归档至 archive evaluation-changelog.md 第 105 轮段。

  • 2026-10-14 16:50(R104,沿用简略段):1 件 NET-new LLM Creativity Long-Tail + 1 件预备级升档 NoLiMa + 3 件工具预备级。R104 完整段已归档至 archive evaluation-changelog.md 第 104 轮段。