主题综述 · database(2026-10-29)

  • 作者:spark
  • 更新:2026-10-29
  • 清单:a7d6254f-9c7d-4862-9b58-cf778b1bee03.json(job a7d6254f-9c7d-4862-9b58-cf778b1bee03,key w5:database,items=1,new_papers=8)
  • 来源边界:清单 8 份 paper_card + 8 份 promo/explainers/*.md 有界 excerpt + 1 份上棒 organized/promo/surveys/2026-10-26-database.md excerpt + 1 份 knowledge/lessons/lessons-2026-W42.md excerpt

诚实声明:本综述未通读任何论文全文。所有事实点来自清单 materials(标题 + arXiv 摘要首段)与 context(promo/explainers 的 3000 字符截断解读稿),加上本轮针对清单内两个 arXiv abs 页的必要事实核查(1911.05371、1802.02871)。清单材料未覆盖的正文表格、图、定理编号、附录、具体数值一律不作陈述;解读稿中标注 ⚠️ 的数字(如下文标注)原样转述,不背书。

范围提示:清单 theme 字段只写 "database",未限定子轴。8 篇论文本体跨度极大(自监督学习、联邦学习、NLP 对抗攻击、数据收集管理、对话 AI、多任务 NLP、正则化、在线学习),本综述不假装 8 篇同题,而是按论文本体归入三轴。⚠️ W1:is_new 反映知识库条目新增,不是发表年份;下文「新工作」一律指 is_new=true 的 8 篇,不得据此推断发表时间。


§一 主题脉络:一条从「数据治理」到「在线适应」的纵深轴

清单 8 篇 is_new 全为 true,且 arXiv ID 区间集中在 1802–1911(2018-02 至 2019-11),无一例落在 2024–2026。⚠️ 这说明本棒清单抽到的是知识库中一批「经典中期工作」的新收录,而不是当前 SOTA。读这篇综述的正确姿势是:把它当作方法论底座的地基图,而不是最新进展通报。

把 8 篇摊开,会看到一条意外清晰的纵深轴——同一个「学习问题在什么约束下良定义」的追问,贯穿了三代工作:

  • 第一代(数据在静态集合里):1811.03402 追问「数据从哪来、怎么标、怎么改进」,把 ML 的数据问题翻译成数据管理问题;1809.08267 追问「对话任务如何统一成条件生成问题」。
  • 第二代(模型要同时自我解释):1911.05371 追问「无标注时联合目标如何良定义」;1806.08730 追问「十种异构任务如何归约到同一套接口」;1806.05236 追问「隐空间插值如何给出平滑正则」。
  • 第三代(数据在流动、分布会漂、设备不互信):1802.02871 追问「流式场景下如何只保证 regret 增长慢」;1909.11875 追问「数据不出设备时如何协同」;1901.06796 追问「离散输入下攻击面到底长什么样」。

⚠️ W2(与上棒的关系):上棒(2026-10-26)8 篇 net-new 全部是 2025–2026 的「AI 原生全栈地基」,本棒 8 篇是 2018–2019 的算法/系统设计经典。二者构成本棒最值得记的对照:当基础设施的地基本身开始被 LLM 重写(云原生、内存 KV 存储、评测基准),回看 2018–2019 年那些「把问题重新表述成良定义优化」的手法,比回看更多同代基建论文更有价值——这恰是本棒 8 篇的共同主题。


§二 各工作贡献与相互关系

§2.1 轴 A:数据与任务的「良定义」——数据管理视角(1 篇)

① arXiv:1811.03402 — A Survey on Data Collection for Machine Learning: a Big Data — AI Integration Perspective

paper card 摘要原话:「This survey performs a comprehensive study of data collection from a data management point of view, providing a research landscape of these operations, guidelines on which technique to use when, and identify interesting research challenges.」

这是清单里唯一真正以 database 为本体的工作,也构成本棒的主题锚点。它的贡献是双层 taxonomy:Data Acquisition(数据增强 / 数据生成 / 外部获取)、Data Labeling(众包 / 专家标注 / 自动标注 / 弱监督)、Data/Model Improvement(特征工程 / 数据清洗 / 主动学习 / 半监督 / 迁移与预训练),每个分支再按「输入 / 输出 / 适用场景 / 计算开销 / 何时不用」展开,并给出 If-Then 决策指南。

它最锋利的贡献是把数据库社区的概念正式「翻译」进 ML:provenance / lineage(训练样本可追溯与合规)、data quality / cleaning(清洗成为训练前必备流水线而非 ETL 附属)、query-based data acquisition(把按需采集建模为查询而非一次性 dump)、crowdsourcing operators(Qurk / CrowdDB 这类系统进入 ML 版图)。

⚠️ W3(口径冲突,必须显式标注):解读稿记录同一篇论文的引用数在两个口径下差异极大——OpenAlex 口径 152,tavily / Google Scholar 口径「约 1500+」,解读稿自己判断这是「数据库索引收录滞后」的常见现象。本综述不裁决哪个正确,只提示:引用该综述的影响力时必须写明口径,否则属于单位口径混用(lesson W42 明列此为高频失误)。解读稿另记论文为 20 页、v1 2018-11-08 / v2 2019-08-12、覆盖 100+ 篇参考文献——这些数字来自解读稿,abstract 未含,不作断言。

§2.2 轴 B:把异构问题归约到统一接口(2 篇)

② arXiv:1809.08267 — Neural Approaches to Conversational AI

paper card 摘要原话:「This tutorial surveys neural approaches to conversational AI that were developed in the last few years, and presents a review of state-of-the-art neural approaches, drawing the connection between neural approaches and traditional symbolic approaches.」

Gao、Galley、Li 三人的 95 页 tutorial,把 2013–2018 年碎片化的对话 AI 收成三块:QA agents / Task-oriented dialogue agents / Chatbots,并给出统一视角「用户话语 → 系统回复」的条件概率 p(y | context; θ),其中 context 含用户当前话语 + 历史 dialogue state + 可选外部知识。

方法学骨架是「一个统一视角 + 三类特化」。通用组件栈为:token embedding(word + char)+ position → RNN/LSTM/GRU 或 Transformer encoder → attention / memory network / copy mechanism → seq2seq with attention 或 pointer-generator → MLE 训练后 RL fine-tuning(bandit / actor-critic)。三类的差异被定位在机制层:QA 走 BiDAF / Match-LSTM 双向 attention 与 span 抽取;task-oriented 走 NLU → Dialogue State Tracker → Policy / API call → NLG;chatbot 走 soft attention over context。task-oriented 部分是全文笔墨最重处,讨论 belief tracker(Henderson 2014 的 RNN-based tracker、Mrkšić 2017 的 NBT)与 policy learning。

⚠️ W4:解读稿明确写「通用 pipeline」是「基于综述章节脉络还原,原文未给出统一伪代码」——这是解读稿的还原而非论文原文引文,引用时须区分。解读稿记被引 752 / Semantic Scholar、138 / OpenAlex(同样是双口径);期刊出处 FNTRS-IR 13(2-3):127-298, 2019,早期版为 SIGIR 2018 tutorial P18-5002。

③ arXiv:1806.08730 — The Natural Language Decathlon: Multitask Learning as Question Answering

paper card 摘要信息量异常低:唯一内容是「Presented on August 28, 2018 at 12:15 p.m. in the Pettit Microelectronics Research Center, Room 102 A/B.」——一条活动通知。⚠️ W5:本条的 abstract 不足以支撑任何技术判断,其技术内容全部来自解读稿。

decaNLP 把十项 NLP 任务(问答、翻译、摘要、NLI、情感分析、语义角色标注、零样本关系抽取、目标导向对话、语义解析、指代消解)统一改写为「带上下文的问答」:context = 源段落/文章/前提/句子,question = 一条指令式问句,answer = 译文 / 摘要 / {yes,no,maybe} / (ARG0,ARG1,…) / 实体短语。

架构 MQAN 三件套:双上下文编码器(question 与 context 各 6 层 bi-LSTM 带残差)、双协同注意力(H_q ← H_c 再 H_c ← H_q 交替 3 次,每次含 self-attention + 残差 + 层归一化)、多指针生成器解码器(每步在 context pointer / question pointer / 固定词表生成三者上做 softmax)。question pointer 的意义在于允许把问句中的词直接搬进答案,这对指代消解与零样本任务尤其关键。

训练侧两个决定性设计:反课程(anti-curriculum)采样——训练前期采样权重 ∝ answer_length^α(α > 0,偏好长答案),后期回到均匀;动机是各任务答案长度差异巨大(QA 1 词 vs 摘要几十词),均匀采样会让模型只学到「短答案稳赚 loss」而长答案任务欠拟合。多任务损失加权——各任务用原生损失,按 minibatch 内任务出现频率加权,梯度同步反传共享参数。

⚠️ W6:解读稿给出的逐任务对照表(SQuAD/VQA 持平或略高、翻译更优、摘要持平、零样本关系抽取显著更优、WikiSQL 单任务 SOTA)与转移实验结论(领域自适应、零样本文本分类性能随任务多样性单调上升、抗遗忘),解读稿自己附了「数字核验备注」指向 abstract 之外的正文表格——本综述不转录任何具体数值,只转述定性方向。

§2.3 轴 C:无标注与过平滑——目标函数的良定性(2 篇)

④ arXiv:1911.05371 — Self-labelling via Simultaneous Clustering and Representation Learning(SeLa)

⚠️ W7(paper card 路径异常):清单 materials[0] 的 source 字段为 organized/paper_cards/1807-1911-05371.md,但 evidence 与 url 一致指向 arXiv:1911.05371。本轮事实核查确认该 ID 有效,且 title / authors / abstract 与 paper card 一致。下文一律以 arXiv ID 为准,card 文件名前缀 1807- 视为入库批次号。

paper card 摘要原话:「The proposed novel and principled learning formulation is able to self-label visual data so as to train highly competitive image representations without manual labels and yields the first self-supervised AlexNet that outperforms the supervised Pascal VOC detection baseline.」

⚠️ W8(本轮事实核查,2026-10-29,arXiv abs 页):作者为 Yuki Markus Asano、Christian Rupprecht、Andrea Vedaldi;分类 cs.CV (主) + cs.NE;Comments 明确为 「Accepted paper at the International Conference on Learning Representations (ICLR) 2020」;版本 v1/v2/v3;无撤回横幅。abs 摘要全文可逐字引用:

「Combining clustering and representation learning is one of the most promising approaches for unsupervised learning of deep neural networks. However, doing so naively leads to ill posed learning problems with degenerate solutions. In this paper, we propose a novel and principled learning formulation that addresses these issues. The method is obtained by maximizing the information between labels and input data indices. We show that this criterion extends standard crossentropy minimization to an optimal transport problem, which we solve efficiently for millions of input images and thousands of labels using a fast variant of the Sinkhorn-Knopp algorithm. The resulting method is able to self-label visual data so as to train highly competitive image representations without manual labels. Our method achieves state of the art representation learning performance for AlexNet and ResNet-50 on SVHN, CIFAR-10, CIFAR-100 and ImageNet and yields the first self-supervised AlexNet that outperforms the supervised Pascal VOC detection baseline. Code and models are available.」

这条 abstract 是本棒证据锚点最硬的一条——「naive 做法的病态性」「最大化标签与输入索引之间的信息量」「推广为最优传输问题」「快速 Sinkhorn-Knopp」「millions of input images and thousands of labels」「AlexNet 与 ResNet-50 在 SVHN/CIFAR-10/CIFAR-100/ImageNet 上 SOTA」「首个超过监督式 Pascal VOC 检测基线的自监督 AlexNet」「Code and models are available」八项均可直接引用,无需回查正文。

方法侧,解读稿给出等价于本体的 OT 形式:min_Q ⟨Q, C⟩_F − ε·H(Q),s.t. Q ≥ 0、Q·1_K = (1/N)1_N(每样本总质量 1/N)、1_NᵀQ = (1/K)1_K(等分约束,每类恰好 N/K 个样本),其中熵正则 −εH(Q) 使解足够光滑可被梯度优化。解读稿强调关键在硬等式约束而非惩罚项——均衡性成为最优解的固有属性,而非外挂软约束,并给出交换论证:均衡约束下最优软分配是「每个样本把质量平分给它预测概率最高的那些类」。训练循环为 Sinkhorn 求均衡软分配 → argmax 取硬伪标签 → 标准交叉熵 M 步。

⚠️ W9(必须点明):解读稿写到「ImageNet linear probe top-1 具体数值已回填【Jay 2026-10-22】」,但该数值所在的正文内容不在本次清单的 3000 字符 excerpt 范围内。本综述不转录任何 top-1 数值,只标注「据解读稿称已回填,数值需回查论文 §4.2 与官方仓库 README」。

⑤ arXiv:1806.05236 — Manifold Mixup: Better Representations by Interpolating Hidden States

paper card 摘要原话:「Manifold Mixup achieves large improvements over strong baselines in supervised learning, robustness to single-step adversarial attacks, semi-supervised learning, and Negative Log-Likelihood on held out samples.」

这是清单里唯一纯方法论工作,也是与轴 A/B 最不同的一类:不改任务定义、不改数据管线,只改「网络该在哪个空间学线性」。

形式化:网络 f = g_K ∘ … ∘ g_1,训练时从 {0,…,K} 等概率采样层索引 m(m=0 退化为原始 Mixup),正常前向到第 m 层得 h_i^m、h_j^m,采样 λ ~ Beta(α,α),插值 h̃^m = λ h_i^m + (1−λ) h_j^m,把 h̃^m 喂给第 m+1 层继续前向得 p̃,标签同步插值 ỹ = λ y_i + (1−λ) y_j,损失 CE(p̃, ỹ)。

两条互补解释:归纳偏置(浅层学纹理/边缘、中层学部件、深层学语义,语义空间的「中间状态」对分类边界附近区域的正则化最直接)与信息瓶颈论(在理想条件下压缩每层表征的主成分方向数,即「flattening」,PCA 谱衰减更快)。

⚠️ W10:解读稿自陈「ImageNet 上 ResNet-50 提升约 1 个百分点(具体数字需查论文 §5 ⚠️,abstract 未给精确值)」,并明确标注该数字为常见引用区间估计。本综述不引用「约 1 个百分点」,只引用 abstract 的定性表述——「large improvements over strong baselines」与「对单步对抗攻击的鲁棒性」「半监督学习」「留出样本 NLL」三项受益。解读稿另记 ICML 2019 正式版 v7、被引 477(OpenAlex 口径)。

§2.4 轴 D:流式、分布式与攻击面(3 篇)

⑥ arXiv:1802.02871 — Online Learning: A Comprehensive Survey

paper card 摘要原话:「This survey aims to provide a comprehensive survey of the online machine learning literatures through a systematic review of basic ideas and key principles and a proper categorization of different algorithms and techniques.」

⚠️ W11(本轮事实核查,2026-10-29,arXiv abs 页):作者为 Steven C. H. Hoi、Doyen Sahoo、Jing Lu、Peilin Zhao;分类 cs.LG;Comments 为 「100 pages, ~400 references」(与解读稿一致,且该数字出自论文自身 Comments 而非解读稿推算);版本 v1/v2;无撤回横幅。abs 摘要给出三级分类原话:「according to the learning type and the forms of feedback information, the existing online learning works can be classified into three major categories: (i) supervised online learning where full feedback information is always available, (ii) on…」。

问题设定:数据以流式到达、分布可能漂移(concept drift)、必须即时预测,目标是后悔值 Regret_T = Σℓ(ŷ_t, y_t) − min_{w∈W} Σℓ(w, y_t),若 Regret_T = o(T) 则平均每步损失趋近最优。

三级分类:(i) 完整反馈的监督在线学习——Perceptron(线性可分下犯错次数上界 ≤ R²/γ²,第一个证明在线学习可「有限犯错」的算法)、OGD(凸损失下 η_t = O(1/√t) 给 Regret_T ≤ O(√T))、FTL(每步取历史累计最优,对噪声敏感)、FTRL(加正则 Φ(w),ℓ₁ 稀疏化在文本等高维稀疏特征上工程价值大;McMahan 2017 的 FTRL-Proximal 是标准实现版);(ii) 有限反馈 / bandit——Ex3(O(√(KT)) bandit regret)、UCB、Thompson Sampling;(iii) 无监督 / 探索型。此外 OMD 通过 Bregman 散度在适合问题的度量空间做下降,给 Regret_T ≤ O(√(d·T))。

⚠️ W12:解读稿的「关键实验与数据」表列的是各算法的理论 regret 上界而非实验对比结果——这是理论综述的常态,表头「关键实验与数据」容易误导,引用时须说明其性质。

⑦ arXiv:1909.11875 — Federated Learning in Mobile Edge Networks: A Comprehensive Survey

paper card 摘要原话:「In a large-scale and complex mobile edge network, heterogeneous devices with varying constraints are involved, this raises challenges of communication costs, resource allocation, and privacy and security in the implementation of FL at scale.」

与轴 D 的另两篇构成「数据在哪里」的三段式:数据集中(在线学习处理时间维)→ 数据留在设备(联邦学习处理空间/分布维)→ 数据可被恶意构造(NLP 对抗攻击处理对抗维)。

基础范式 FedAvg(McMahan 等 2017):每轮服务器选部分设备 → 设备本地训练若干 local epochs → 上传参数更新 → 服务器按样本数加权平均 w_global = Σ(n_k/n)·w_k → 下发全局模型 → 重复。

四类挑战及其应对:通信开销(梯度压缩:Top-K 稀疏化、FP32→INT8 量化、熵编码;sketched gradient;设备选择性参与)、资源分配(设备调度满足时延约束、计算卸载、自适应本地 epoch 数避免掉队)、隐私与安全(模型逆向攻击、Byzantine 设备、隐私推理攻击;对应安全聚合的密码学手段、差分隐私、拜占庭容错异常检测)、统计异构性(non-IID 致收敛慢、client drift、数据孤岛;对应 FedProx 的 proximal term、SCAFFOLD 的控制变量、个性化联邦学习、FedMeta 的元学习思路)。

⚠️ W13(数字风险最高的一处):解读稿给出「梯度压缩可实现 10x–100x 通信量压缩」「设备选择性参与可减少 50%–70% 通信轮数」「安全聚合额外开销通常 1.5x–3x 通信延迟」等量级,并自己标注「原文未明确具体数据,标注『代表性提升』」。本综述转述其定性方向(压缩可达两个数量级量级、选择性参与可省半数轮数、开销代价落在 1.5–3x 区间),但把全部数字标为 ⚠️ 未经原文核对。这正是 lesson W42 所列「abstract 外推值缺稳健性边界」的反面案例。

⑧ arXiv:1901.06796 — Adversarial Attacks on Deep Learning Models in Natural Language Processing: A Survey

paper card 摘要原话:「This article reviews research works that address this difference and generatetextual adversarial examples on DNNs, and collects, select, summarize, discuss and analyze these works in a comprehensive way.」(注:abstract 中 "generatetextual" 为原文连写,本引用保持原样。)

解读稿记作者为 Wei Emma Zhang 团队,最终扩至约 40 页(v3),提交日期 2019-01-21 / 01-27 / 04-11。

核心论断:图像域成熟的对抗攻击无法直接迁移到 NLP,根因是文本离散。结构性差异四维:表示(连续实数向量 vs 离散 token 序列)、扰动度量(L_p 近似不可感知 vs 需「语义不变 + 语法正确」)、模型可微(端到端可微 vs 离散 token 处不可微)、攻击目标(像素级 L∞ / L2 约束 vs 替换 token 不改阅读语义)。

三轴分类法:轴 A 能力(白盒可访问结构权重梯度 / 黑盒仅查询或观察输出 / 灰盒部分结构或 logits 已知);轴 B 扰动粒度(字符级插入删除替换交换、视觉混淆如 l→1、o→0、Unicode 归一化攻击;词级同义替换、语序打乱、插入无关词、删功能词;句子级改写与水印注入;另有混合层与多模态层);轴 C 扰动可见性(不可见 / 可见但语义不变)。解读稿指出后续大量 NLP 对抗综述沿用了这套骨架。

代表性方法:字符级随机扰动基线(同形异义字替换、键盘邻接键替换)与梯度驱动字符攻击(one-hot 视作连续 softmax 后投影回合法 token)、HotFlip(Ebrahimi et al. 2018,把字符替换写成矩阵-向量乘积,一次梯度找出「翻哪一位置、向哪个方向」);词级 FGSM/BIM 离散化版(用「使 loss 变化最大的词替换」替代 ε·sign(∇),以同义词距离 / 语义相似度约束)、TextFooler(Jin et al. 2019,与综述同期,关键词重要性排序 + 语义相似度阈值两阶段)、RL / 序列化生成式词级攻击(如 SCA,Symbolic-Controlled Attack)、GAN / 隐空间扰动加 round-trip 强制回合法 token;句子级 paraphrase 攻击(回译绕过关键词检测)、Universal Trigger 通用对抗后缀、水印 / 后门触发短语投毒。

评估协议三要素:clean acc → under-attack acc 下降幅度、扰动幅度(词语替换率、编辑距离、人类可读性 A/B)、语义保留度(BLEU / 嵌入余弦 / 人评)——解读稿称这套「三角评估」是后来 TextAttack、GLUE-X 等 NLP 鲁棒性基准的雏形。

⚠️ W14:解读稿明确「论文版本里给出的是方法分类与定性描述,未对各方法在同一数据集的逐项数字做汇总」。因此本综述对 1901.06796 不引用任何攻击成功率数字。


§三 未解问题(按「影响范围 × 可验证性」两轴排序)

排序依据 lesson W42 的 W5 指引:先按影响范围排,再按可验证性排。

P1(影响范围最大 / 可验证性高)— 「把问题重述为良定义优化」这一手法本身能否形式化? SeLa(1911.05371)证明了朴素交叉熵的全局最优解会让每类样本数与预测概率成正比(即不均衡解是真实最优而非偶然坏点),再用硬等分约束把它钉住;1806.08730 用统一 QA 接口把十任务归约;1909.08267 用统一条件生成视角收三类对话;三者共享同一哲学但无一给出统一的元框架。可验证性高:三篇的 abstract 均已把核心断言写在明处,可直接对照原文正文定理。

P2(影响范围大 / 可验证性中)— 统一接口的代价:任务同构化是否牺牲了任务特异性? decaNLP 把十任务写成 (context, question, answer) 三元组后,多指针解码器统一了输出侧;但解读稿记「WikiSQL 单任务设定下 MQAN 取得 SOTA」,反过来说明多任务收益并非单调。可验证性问题在于:收益是来自任务多样性本身,还是来自共享参数带来的隐式正则?当前材料无法回答——需回到 1806.08730 的转移实验与消融。

P3(影响范围大 / 可验证性低)— 「均衡性应当内生还是外挂」尚无跨领域定论。 SeLa 的答案是内生(硬约束);1811.03402 的数据采集 taxonomy 里,平衡/清洗是流水线上的独立环节(外挂);1806.05236 的 Manifold Mixup 则是把平滑性做成训练目标里的插值项。三种风格分属三个轴,却指向同一个问题:规约该写进可行域,还是写进损失?⚠️ 该问题的任何回答都需要跨论文的对照实验,本清单材料不支持。

P4(影响范围中 / 可验证性高)— 联邦学习与在线学习在 regret 口径下尚未统一。 1802.02871 用 regret 衡量单流在线学习;1909.11875 处理的是多设备、多轮、non-IID 的分布式聚合,其收敛讨论(FedAvg 加权平均、FedProx proximal term、SCAFFOLD 控制变量)用的是完全不同的分析框架。⚠️ 解读稿给出的「FedProx 收敛更稳定」「SCAFFOLD 在 CIFAR-10 异构划分下精度提升明显」均无具体数值,无法与 regret bound 做量纲对齐。

P5(影响范围中 / 可验证性低)— 「混合正则」叠加是否有交互项? 1806.05236 主张 Manifold Mixup 与 BatchNorm / 残差 / 注意力可叠加且「四项全能」(监督、半监督、对抗鲁棒、NLL 校准同时受益);1901.06796 则说明 NLP 侧攻击面因离散性而完全不同。⚠️ 解读稿自己已点出 Manifold Mixup 与 adversarial training 的关系未完全厘清。两者叠加后的行为、是否有相互抵消,材料内无据。

P6(影响范围小 / 可验证性高)— 引用口径与数字溯源的工程问题。 1811.03402 的 152 vs 1500+、1909.08267 的 752 vs 138、1806.05236 的 477(OpenAlex)——同一批论文在不同索引下差两个数量级。lesson W42 已把「单位口径混淆」列为高频失误。本综述的做法是:每个数字都标注口径或标 ⚠️。


§四 研究建议(与 §三 逐条映射)

R1 ← P1:为每篇「重述型」论文补一条统一元陈述,格式为「原目标函数的退化解形态 → 约束改写方式 → 求解算法 → 额外工程代价」。SeLa 可填「样本质量按预测概率分配 → 硬等分边际约束 → 快速 Sinkhorn-Knopp → 熵正则 ε 的数值稳定性取舍」;decaNLP 可填「各任务各自 head → 统一 QA 接口 → 多指针解码 → 任务采样权重」。这不需要新实验,只需回查原文定理与算法段,可验证性最高。

R2 ← P2 / P6:所有涉及论文影响力或性能的表述,强制三件套:数字 + 口径(OpenAlex / Semantic Scholar / Scholar)+ 证据锚点(arXiv ID + 页码/表格号,或 verbatim 抄录 abstract 并注明出处)。这是 lesson W42 W5 的直接落地。落到本清单即:①1911.05371 只用已核实的 abs 原文八项断言;②1806.05236 弃用「约 1 个百分点」而改用 abstract 定性表述;③1909.11875 的压缩比 / 轮数 / 开销数字全部加 ⚠️ 未经原文核对;④各引用数统一注明口径。

R3 ← P3:在 1811.03402 的 taxonomy 上补一列「规约的实现位置」(可行域 / 损失项 / 流水线阶段)。把三轴论文映射进去后,「内生 vs 外挂」会立刻显现为一个可操作的选型问题——这恰是 1811.03402 所擅长的 If-Then 决策风格。

R4 ← P4:把 1802.02871 的 regret 分析与 1909.11875 的聚合收敛分析放在同一张对照表,表头统一为「假设 / 保证类型 / 保证形式 / 依赖量」。先只填两篇自身报告的保证,不做跨篇数值比较——⚠️ 在拿到原文数字前,任何跨篇比较都会踩 lesson W42 的「外推值缺稳健性边界」。

R5 ← P5:针对 1901.06796 的三轴分类法,与 1806.05236 的插值空间选择做一次映射实验的设计推演(纯推演,不需实现):离散文本无法做隐空间线性插值,因此 Manifold Mixup 类正则在 NLP 上是否有对应物、对应物是什么(例如在 token embedding 空间的 round-trip 约束),是一个干净的可研究问题。

R6 ← 全部:把本次的「丢弃/降级条目」沉淀为反模式库条目。三类降级已在本稿落地:①abstract 信息量不足(1806.08730 的 paper card abstract 仅为一条活动通知)→ 强制标注「技术内容全部来自解读稿」;②paper card 文件名与 arXiv ID 不一致(1807-1911-05371)→ 一律以 arXiv ID 为准并登记异常;③解读稿自标 ⚠️ 的外推值 → 集中收纳于 §2 的 ⚠️ 行,不散落。


§五 清单论文清单(全部 8 篇 · 标识与链接)

新工作(is_new=true,共 8 篇,与本棒清单一一对应)

  1. arXiv:1911.05371 — Self-labelling via Simultaneous Clustering and Representation Learning(SeLa;Asano / Rupprecht / Vedalli;ICLR 2020)— https://arxiv.org/abs/1911.05371
  2. arXiv:1909.11875 — Federated Learning in Mobile Edge Networks: A Comprehensive Survey — https://arxiv.org/abs/1909.11875
  3. arXiv:1901.06796 — Adversarial Attacks on Deep Learning Models in Natural Language Processing: A Survey — https://arxiv.org/abs/1901.06796
  4. arXiv:1811.03402 — A Survey on Data Collection for Machine Learning: a Big Data — AI Integration Perspective — https://arxiv.org/abs/1811.03402
  5. arXiv:1809.08267 — Neural Approaches to Conversational AI(Gao / Galley / Li)— https://arxiv.org/abs/1809.08267
  6. arXiv:1806.08730 — The Natural Language Decathlon: Multitask Learning as Question Answering — https://arxiv.org/abs/1806.08730
  7. arXiv:1806.05236 — Manifold Mixup: Better Representations by Interpolating Hidden States — https://arxiv.org/abs/1806.05236
  8. arXiv:1802.02871 — Online Learning: A Comprehensive Survey(Hoi / Sahoo / Lu / Zhao)— https://arxiv.org/abs/1802.02871

旧背景(本棒清单内无 is_new=false 条目)

本棒清单 8 篇全部为 is_new=true,清单内不含任何旧背景条目。上棒(2026-10-26-database.md)的 8 篇 net-new(2606.09396、2606.09361、2606.11560、2606.06240、2606.07314、2606.07001、2606.09032、2606.14061)为本主题的历史对照背景,其 arXiv ID 与本棒 8 篇无一重叠,本稿仅在 §一 用于时代对照,未混入本棒分析。⚠️ 再次提醒:is_new 是知识库条目新增标记,不代表发表年份——本棒 8 篇的 arXiv ID 区间为 1802–1911,对应 2018–2019,而上棒 8 篇为 2026。


§六 来源

本棒清单:a7d6254f-9c7d-4862-9b58-cf778b1bee03.json(items=1,key w5:database,theme database,new_papers=8,target organized/promo/surveys/2026-10-29-database.md)

清单内 8 份 paper_card - organized/paper_cards/1807-1911-05371.md(对应 arXiv:1911.05371) - organized/paper_cards/595-1909-11875.md - organized/paper_cards/1787-1901-06796.md - organized/paper_cards/593-1811-03402.md - organized/paper_cards/689-1809-08267.md - organized/paper_cards/857-1806-08730.md - organized/paper_cards/854-1806-05236.md - organized/paper_cards/596-1802-02871.md

清单内 10 份有界 context - organized/promo/explainers/1911-05371.md - organized/promo/explainers/1909-11875.md - organized/promo/explainers/1901-06796.md - organized/promo/explainers/1811-03402.md - organized/promo/explainers/1809-08267.md - organized/promo/explainers/1806-08730.md - organized/promo/explainers/1806-05236.md - organized/promo/explainers/1802-02871.md - organized/promo/surveys/2026-10-26-database.md(上棒综述,仅作时代对照) - knowledge/lessons/lessons-2026-W42.md(写作指引:W5 未解问题排序、事实点 verbatim + 锚点、口径不混用)

本轮事实核查(2 次,均针对清单内已有论文链接) - https://arxiv.org/abs/1911.05371 — 核验作者、分类、ICLR 2020 Comments、v1–v3、无撤回、abs 摘要全文逐字抄录 - https://arxiv.org/abs/1802.02871 — 核验作者、分类、「100 pages, ~400 references」Comments、v1–v2、无撤回、三级分类表述