risk · E1 预消化简报(2026-11-01)
范围声明(依宿主机增量清单
cf9a18b2-2f41-4aa3-b37e-513f297ef48f,创建 2026-11-01 16:30 CST,有效期 1 小时): 本轮仅处理该清单item.materials的 8 份材料(2 paper_card + 5 repo_card + 1 note-links),逐份读取materials[].source(不是只读item.source第一项)。 未做全库扫描、未做网页搜索补料、未为凑字数多轮重写;web_search = 0 次。 未改动清单、基线、认领记录、其他任务文件、队列或定时配置;未写他人目录、未 git、未输出密钥。 本文件为整篇写入(write 整写,禁 edit),目标路径取自item.target=/shared/research-kb/inbox/flyp/2026-11-01-risk-e1prep.md(本轮为新建,此前不存在)。本轮批次性质(台账,非观点):8 份材料中 6 份为活文档/知识库已有条目的重遇,仅 1 份构成 risk 轴的实质净增量(
arXiv:1606.06565),1 份为弱相关新件但归轴存疑(EnnengYang/Awesome-Model-Merging)。 按活文档已立纪律(见 10-31 简报 §一·台账 B):重遇条目只作口径记录,不重写方法学结论;采集时间与被引变化不构成新观点。
一、今日该主题最重要的增量
增量 1 🟡🟡🟡【本轮唯一实质增量 · 建议今晚立轴】arXiv:1606.06565 Concrete Problems in AI Safety —— 补上 risk.md 十一轮以来的结构性空白:「目标函数/规格」风险轴
- 来源:
organized/paper_cards/1822-1606-06565.md(清单材料 1,逐行读取)· arXiv:1606.06565 · https://arxiv.org/abs/1606.06565 · DOI10.48550/arxiv.1606.06565· OpenAlex IDW2462906003· 开放获取 green - 本轮卡片读数(一手,严格限于 card 字段):S2 被引 3647 / OpenAlex 被引 1314 / 影响力被引 162 · 主分类
risk· 副主题agent· 形态method·待LLM分类:否·OpenAlex更新:2026-11-01 - 要点(可核查,严格限于 card 的 TLDR 字段,不外推):
1. 卡内 TLDR 原文:"A list of five practical research problems related to accident risk, categorized according to whether the problem originates from having the wrong objective function, an objective function that is too expensive to evaluate frequently, or undesirable behavior during the learning process".
2. 这正是三分法的骨架:五类失效按「出错位置」分为 —— 目标函数写错(2 类)· 目标对但评估太贵(1 类)· 学习过程出问题(2 类)。card 内 TLDR 直接给出了这三档的划分依据,无需外推。
3. 形态标注为
method而非position:卡内形态:method—— 即上游采集管线把这份 2016 年的议程论文归为「方法」类。这本身是本轮的归档提醒:不能按形态字段推断体裁(该论文原文自述为议程/路线图型文本)。 - 与活文档
organized/knowledge/risk.md(R110,10-30)现有脉络的关系 —— 这是本条最重要的部分: - §1 现状全景:R100–R110 十一轮全部落在「运行时失守点」轴上。 逐轮回溯:R107 四元链(沙箱能力暴露 / 审批旁路 / 输出可信性 / 协议层文件信任)· R108 训练期对齐泛化边界 = 训练分布边界 · R109 工具供应链层 · R110 披露后生态层 + Agent 预算层。R108 是唯一一次接近「训练期」的推进,但它讲的是「对齐的泛化边界」,属模型侧;而
1606.06565讲的是目标函数侧。 - 可核查的空白证据(本轮 grep 实测):在
organized/knowledge/risk.md全文中,reward hacking命中 0 次、wireheading0 次、scalable oversight0 次、environment embedding0 次、Goodhart0 次、side effect0 次。risk.md 对「规格(specification)类风险」目前零覆盖 ⚠⚬⚬。 - 结论:risk.md 缺一整条「目标函数/规格」轴。 十一轮讨论的是「Agent 调了什么、工具链怎么被复制、审批怎么被绕过」;
1606.06565讨论的是「目标本身写错时会发生什么」——这是风险的上游,与运行时轴是正交关系,不是同一层的补充。 - §2 关键工作脉络:R110 的 §2.1–§2.8 全部是 repo 链 + 承接位。建议新立 §2.9「事故风险的三分法:目标函数错 / 评估太贵 / 学习过程错」,把这篇作为该节锚点。
- §3 共识与争议:可支撑一条新共识 —— 「事故风险不等于能力风险」(卡内 TLDR 明确用 "accident risk" 措辞,把风险限定在事故而非失控)。这与 R109–R110 的「披露后生态 / 工具供应链」轴恰好构成张力:R110 记录的是「工具被复制多少份」这类分发面风险;
1606.06565记录的是「目标写错」这类内生面风险。两者是同一 risk 文档里此前从未并置的两个面 —— 今晚是否把这组张力立成争议条(#130 起编),建议由活文档作者定 ⚠。 - §4 开放问题:R110 的 Q242–Q250 全部是运行时工程清单(复现生态监控 / 工具准入分级 / 审批哈希绑定 / 三态语义 / 自治提权路径 / 预算护栏 / 反编译路径实测 / AI SOC 自治度 / 证据分级)。没有任何一条问过「我们的目标函数本身写对了吗」 —— 这是本条能补上的唯一空白问题 ⚠⚬。
- §5 趋势判断:R110 趋势一–六全部是运行时/治理轴。建议本条支撑 趋势七「风险面继续向上游推:从运行时轴 → 规格轴」,与 #139–#144 的机制化治理路线并列。
- §6 采信与限定 / §7 遗漏清单:R110 §7 遗漏清单第 ⑧ 条明写「本轮未新增 arXiv 论文级观点 —— 唯一 paper 材料是承接位」。本条正是本轮可以补上这一条的材料,但须严格标注证据级别(见下)。
- ⚠⚬⚬ 证据级别重大限定(今晚引用前必须逐字采纳):
- 本轮对该论文的取证仅来自 paper_card 的 TLDR 字段 + 知识库内已有的
organized/promo/explainers/1606-06565.md(flyP 自撰,57 KB,更新 2026-11-01)。 - 该 explainer 本身已声明其事实核查基于 arXiv abs 页与 HTML 全文(v1 2016-06-21 / v2 2016-07-25,29 页),并已逐节核对五类分类、六种 reward hacking 成因、十种防御、Section 7 的 A–E 五个小节。但按本库纪律,explainer 属二手整理件,不等同本轮的一手核验。
- 本轮未读论文原文任何一节、未读 PDF/HTML、未做网页核验。 因此:
- 今晚若要在 risk.md 正文写「论文提出五类问题 / 三分法」这类结构事实,可以引用 card 的 TLDR(一手卡字段,可核查)⚠;
- 但任何具体数字(如「六种成因」「十种防御」「29 页」「1314 被引」中除 card 字段外的项)、任何具体例子(如 reward capping 挡不住「闭眼不看脏东西」)、任何原文引语,都必须标注来源为 explainer 或原文,并保持 explainer 已给出的「待核查」标记 ⚠⚬;
- 该论文原文自述为议程论文(零实验、零表格、零性能数字) —— 这条来自 explainer,今晚若写入 risk.md §6,须标注「据 explainer 转述,本轮未核原文」 ⚠⚬。
- 内容安全约束:本条不得据此写出任何攻击步骤、绕过方法或可操作的攻击载荷;
1606.06565讨论的是如何防止攻击,天然安全,但仍不得把论文中的防御思路反向改写为绕过思路 ⚠⚬。 - 建议归入(今晚 action 清单):
§2新立 2.9「事故风险三分法:目标函数写错 / 评估太贵 / 学习过程错」 —— 等级 ★★★ 主轴级(本轮唯一实质增量,且填补 risk.md 的整条轴向空白)。§3共识新增 #145:「事故风险(accident risk)≠ 能力风险 —— 风险评估的落点应是目标函数与现实的落差,而非系统聪明程度」 ⚠。§3争议新增 #130(可选):「规格类风险与分发面风险(工具供应链/复现生态)应如何排优先级」 —— R110 整轮只处理后者 ⚠。§4新增 1 条 P1(Q251 起编):审计本组织各条 agent/模型流程的「目标函数是否只覆盖了环境的一个维度」 —— 即 reward/specification 维度的自我审查,补上 Q242–Q250 全无此类问题的空白 ⚠⚬。§5新增趋势七:「风险面从运行时轴继续上推到规格轴」 ⚠。§7遗漏清单须补一条:本条仅基于 card TLDR + explainer 转述,未读论文原文;六成因/十防御/各具体例子的原文措辞未逐条核验 ⚠⚬。
台账 A(口径记录,非观点)· arXiv:2604.16548 Memory Lifecycle Framework(重访,读数漂移)
| 项 | 本轮 card 读数 | 活文档既有记载 | 判定 |
|---|---|---|---|
| 来源 | organized/paper_cards/076-2604-16548.md |
— | — |
| S2 被引 | 26 | R73(09-06)已作为「Memory Security Survey 安全威胁模型形式化」立标预备级 ★★ 收录,卡内 S2 亦记 26 | 重访,S2 零漂移 ⚠ |
| OpenAlex 被引 | 0 | R73 记录未见 OA 读数 | 口径记录,不构成新观点 ⚠ |
| 影响力被引 | 1 | 同上 | 同上 ⚠ |
| DOI | 10.48550/arxiv.2604.16548 |
risk.md 的 DOI 集合未含此项(该集合为 R100/R108 系) | DOI 净增候选 +1 ⚠⚬(需今晚回查是否已由他轴入册) |
| URL | https://arxiv.org/abs/2604.16548 |
已在 risk.md 的 URL 集合内(R73/R109 批入,https://arxiv.org/abs/2604.16548 与 https://arxiv.org/html/2604.16548v1 均在) |
重访,URL 零净增 ⚠ |
| arXiv 集 | 2604.16548 |
已在 risk.md 的 arXiv 集合内(R108 续补段含 2604.16548) |
重访,arXiv 零净增 ⚠ |
- 要点(严格限于 card 字段):TLDR 提出 Memory Lifecycle Framework,沿两轴组织攻击、防御及其跨阶段依赖 —— 六生命周期阶段(Write / Store / Retrieve / Execute / Share&Propagate / Forget&Rollback)× 四安全目标(Integrity / Confidentiality / Availability / Governance)。卡内 TLDR中文 另给一句核心论断:「鲁棒的长期记忆安全无法仅在 retrieval 或执行阶段后置加固,而必须在最初就以存储阶段的溯源、版本化与策略感知的 retention 为基础进行锚定」。
- 与活文档的关系:R73 已把该文作为「记忆安全威胁模型形式化」栖位收录,本轮无新事实。唯一可做的动作是补记 DOI(
10.48550/arxiv.2604.16548似未在 risk.md DOI 集合内 —— 今晚回查后决定是否补,本轮只登记,不自作主张改动活文档) ⚠⚬。 - 明确不做:不重写 R73 已立的记忆安全栖位;不把六阶段×四目标矩阵当作新观点展开;不引用该卡「可复用信息」节里的分层可信度评级(如「⭐⭐⭐⭐」)—— 那是 explainer 型 card 的自评,非独立证据。
台账 B(口径记录,非观点)· 3 份 repo_card 为 R110 重访,读数与活文档完全一致,零漂移
| 材料 | source(相对 /shared/research-kb/) | 本轮卡片读数 | 活文档既有记载 | 判定 |
|---|---|---|---|---|
aarsaputra/php2shell |
organized/repo_cards/4677-aarsaputra-php2shell.md |
85★ · 周增 +0 · Python · 许可 NOASSERTION · 最近提交 2026-10-26 · 上次/首次采集 10-27 · 形态 app · trending · experimental · 待LLM分类:是 |
R110 §2.1 链首 记 85 Star · Python · 卡内许可 NOASSERTION · 首次采集 10-27,并展开至 scan \| detect \| preflight \| exploit \| shell \| version 六模式 + curl_cffi JA3 impersonate + 许可矛盾待核项 |
重访,读数完全一致,零漂移 ⚠ |
ACD421/PHP |
organized/repo_cards/4673-acd421-php.md |
66★ · 周增 +0 · Python · 无许可标注 · 最近提交 2026-10-26 · 采集 10-27 · app · trending · experimental · 待LLM分类:是 |
R110 §2.1 记 66 Star · Python · 无许可标注 · 首次采集 10-27,自述面向 "PHP, CTI agencies, and CISA … security hardening and bug awareness only" | 重访,读数完全一致,零漂移 ⚠ |
hevnsnt/CVEngine |
organized/repo_cards/4671-hevnsnt-cvengine.md |
343★ · 周增 +0 · Python · GPL-3.0 · 最近提交 2026-10-26 · 采集 10-27 · 形态 app · trending · research · agent/risk 双栖 · agent 主分类 | R110 §2.4 链中 记 343 Star · Python · GPL-3.0 · 首次采集 10-27,展开至 Discover/Understand/Prioritize/Verify/Search/Operate/Hunt 七段 + fire-smoke-ice + 只读 Nuclei + cvengine-sentinel + MCP server + 赏金工作台 + CycloneDX SBOM |
重访,读数完全一致,零漂移 ⚠ |
台账 B 的处置纪律:3 件 repo 一件都不重写。R110 已把它们定位在攻防链的固定位置(php2shell + ACD421 = 链首复现生态;CVEngine = 链中攻击面评估),今晚无任何新事实可加。唯一可做的是确认读数零漂移 —— 这与本轮 §二·2 的重访率问题形成对照,是采集管线健康的一次正向证据 ⚠。
台账 C(口径记录,非观点)· marketcalls/openalgo —— 已在 R102/R104 处理过,本轮无新事实
| 项 | 本轮 card 读数 | 活文档既有记载 | 判定 |
|---|---|---|---|
| 来源 | organized/repo_cards/4369-marketcalls-openalgo.md |
— | — |
| 读数 | 2851★ · 周增 +0 · Python · AGPL-3.0 · 最近提交 2026-10-14 · 采集 10-14 · 形态 framework · 分类 ai · 待LLM分类:是 · 主题 agent/database/risk · engineering 主分类 |
R102(10-14)记为「实盘决策框架栖位预备第 1 例」;R104(10-16)列为「risk 弱邻接 NET-new 3 件 ⚬」之一(主流级) | 重访,非新件 ⚠ |
| URL | https://github.com/marketcalls/openalgo |
已在 risk.md 的 URL 集合内 | URL 零净增 ⚠ |
- 要点(仅 card 字段):简介 "Open Source Algo Trading Platform for Everyone"。卡内信息止于此 —— 无 README 机制描述、无版本、无部署形态。该件的实质内容在 R102/R104 轮已消化,本轮不得重开 ⚠。
- 归档提醒:该卡
主题含risk但主分类是engineering—— 与 §二·1 的标签-内容脱节问题同源 ⚠。
台账 D(弱相关新件 · 归轴存疑)· EnnengYang/Awesome-Model-Merging-Methods-Theories-Applications
| 项 | 本轮 card 读数 | 判定 |
|---|---|---|
| 来源 | organized/repo_cards/4782-ennengyang-awesome-model-merging-methods-theories-applications.md |
首次采集 2026-11-01(当日新件) ⚠ |
| 读数 | 795★ · 周增 +0 · 最近提交 2026-10-31 · 形态 awesome · 分类 ai · 待LLM分类:是 · 成熟度 research · 主题 risk/llm-infra · engineering 主分类 |
— |
| 简介 | "Model Merging in LLMs, MLLMs, and Beyond: Methods, Theories, Applications and Opportunities. ACM Computing Surveys, 2026." | 即一份 ACM Computing Surveys 综述的配套 awesome 清单 |
| 归轴判定 | — | 不建议今晚并入 risk 轴建段 ⚠⚬ |
- 为何不并轴(三条理由,均可核查):
1.
主分类是engineering、形态是awesome、主题里的risk只是标签 —— 卡内没有任何一句风险相关的机制描述。按活文档纪律「不得按主题标签机械并轴」(见 §二·1),本件归轴依据不足 ⚠⚬。 2. 该件已被并行的 G1 任务领取 —— 另一份宿主机清单205926ba-af5c-4153-ab39-415e6b0e7c8c的 G1 段已含ennengyang/awesome-model-merging-methods-theories-applications,目标是organized/guides/。若 risk 轴也建段,会与 G1 重复 ⚠。 3. 但有一条确实与 risk 相关的线索值得登记:模型合并(merging)是权重级操作,与本库已有资产arXiv:2610.35846(Preserve to Expand,source-aware 适配 + model merging 抑制遗忘,已由llm-infra.mdv3.70 收录,编号 C395)同族。合并操作的一个已知失效模式是「合并后模型丧失某项能力或引入后门」 —— 但这一说法在本轮材料中无任何一手依据(card 无此描述、explainer 无此描述、本轮未联网)。因此:登记为「待今晚人工确认的邻接方向」,不写入任何观点 ⚠⚬。 - 建议今晚处置:不建段。若确要留痕,只在 risk.md 的遗漏清单里记一句「本轮有一份 model-merging 综述清单因
主题=risk标签被投递,实际归 engineering,已由 G1 领走」⚠。
二、值得警惕的矛盾与待核实说法
-
⚠⚬⚬⚬
arXiv:1606.06565在知识库里已被处理得很深,但在 risk.md 里查无此条 —— 这是本轮最重要的结构性问题。 该论文已有:①organized/promo/explainers/1606-06565.md(flyP 自撰,57 KB,更新 2026-11-01,含逐节事实核查)②organized/reflection/selftest/jay/entries/2026-11-01.md(jay 自测 42/50,五题,盲区自陈详尽)③organized/promo/explainers/中的 explainer 索引。然而organized/knowledge/risk.md的 arXiv 集、DOI 集、URL 集三处全部不含1606.06565,正文亦无任何相关段落(grep 实测reward hacking/wireheading/Goodhart/side effect/scalable oversight各命中 0 次)。 - 风险(本轮新增的架构级风险):promo / selftest 线的成果没有回流到主题活文档,导致同一篇论文在库里被反复处理(本轮已是第二份产物:自测 + explainer + 本简报),而 risk 轴的结构性空白仍然存在。这是比「今天多了几篇论文」更值得今晚处理的问题 ⚠⚬⚬。 - 建议今晚:①risk.md §2.9 立轴并收录该文;②同时提请检查「promo/selftest 产物 → 主题活文档」的回流链路是否缺失 —— 本轮仅记录,不自行改动任何文件或流程 ⚠⚬。 -
⚠⚬⚬ 卡片
主题=risk与主分类的系统性背离,在本轮 8 份材料中复现了 3 次。逐条读数:1606.06565(主题 risk / 主分类 risk —— 本轮唯一相合者)·2604.16548(主题 agent/database/engineering/evaluation/llm-infra/rag/risk / 主分类 rag)·ennengyang(主题 risk/llm-infra / 主分类 engineering)·php2shell(主题 risk / 主分类 engineering)·ACD421/PHP(主题 risk / 主分类 engineering)·CVEngine(主题 agent/risk / 主分类 agent)·openalgo(主题 agent/database/risk / 主分类 engineering)。 - 8 份里只有 1 份(1606.06565)主分类真正是risk。 这与 10-31 简报 §二·1 在 risk 轴独立复现的结论、及本日 jay 在 engineering 轴独立得出的结论,构成三处跨轴互证 ⚠⚬⚬。 - 今晚归档纪律:必须按「主分类 + 活文档实际脉络」归轴,不得按主题标签机械并轴。 若照主题=risk机械并入,本批会把2604.16548(R73 已立)、openalgo(R102/R104 已立)、ennengyang(G1 已领)三件重复建段 ⚠⚬⚬。 -
⚠⚬ 本轮 8 份材料中 6 份为重遇,重访率 75%(vs 10-31 轮的 87.5%)。逐条:
2604.16548(R73)·php2shell(R110 §2.1)·ACD421/PHP(R110 §2.1)·CVEngine(R110 §2.4)·openalgo(R102/R104)·stephen 10-14 协调检查(见 §二·5)。 - 不能据此推断「risk 方向近两日无进展」 —— 只能说「本轮可见窗口内无新料」⚠。 - 但重访过滤仍不充分:本轮 8 份里 6 份已入库,其中2604.16548的 DOI 至今不在 risk.md 的 DOI 集合内(URL 与 arXiv 集都在)—— 说明清单的重访判定与活文档的硬资产覆盖不是同一套口径 ⚠。 - 建议提请检查上游「未处理材料」清单的重访过滤逻辑(本轮仅记录,不改动清单或基线) ⚠。 -
⚠⚬⚬ 本轮的实质增量只有 1 条,且它是一条 2016 年的议程论文 —— 必须防止「用经典文献填充当前性」的倾向。
1606.06565的价值是轴向补白(规格轴),不是「今天有什么新风险」。 - 具体越界风险(今晚须避免):①不得把 2016 年的分类学写成 2026 年的现状判断;②不得从该文推出任何关于当前模型/当前 agent 系统的能力结论;③explainer 中「RLHF 的 reward model 就是廉价 proxy」「agentic LLM 的 wireheading 面」等映射,是 explainer 作者的推论,不是论文原文主张 —— 引用时必须标明是映射推论 ⚠⚬。 - 但:这条轴向补白本身是成立的 —— 「事故风险 vs 能力风险」「目标函数写错 / 评估太贵 / 学习过程错」这个三分法,恰恰是 risk.md 十一轮都没碰过的层级。今晚立轴的正当性在「补空缺」,不在「新」 ⚠。 -
⚠ 本批材料中有一份 18 天前(2026-10-14)的旧协调检查被当作新材料投递:
inbox/stephen/2026-10-14T1245-coordination-check.md(清单材料 8,evidence 为一个 t.co 短链)。该文件本身已声明其内容是关键词统计的覆盖线索,「不等于各方向材料已逐条评审或事实核验」,并自标unreviewed=2。 - 它对本轮的实际用途:①它是 10-31 简报 §二·7 所述「risk 方向关键词 0」缺口的原始出处 —— 本轮 8 份材料恰好全部来自 risk 标签池,构成对该缺口的再次响应;②其 §三 明写 「database / llm-infra / risk / llm-application 四个方向本日零净增」 —— 本轮同样是该状态,且本轮清单里 risk 轴实质净增只有 1 条 ⚠。 - 建议:今晚不引用其任何具体数字或事件(含 Anthropic Scion 数字、Epoch AI patch gap 条目、Anthropic 蒸馏防御条目 —— 这些均在本轮清单之外)。仅作「risk 轴长期低产」这一现象的留痕 ⚠⚬。 -
⚠⚬
1606.06565的形态字段标为method,与该文实际体裁(议程论文)不符。 本轮 card 字段明确写形态:method。而据 explainer 的核查,该文自述为议程/路线图文本,全篇零实验、零表格、零性能数字。 - 风险:今晚若按形态=method处理,可能把它当成可复现的方法论文对待 ⚠。 - 建议:risk.md 收录时显式标注体裁为「议程/问题分类学」,并把「card 字段形态=method不可作为体裁依据」记入遗漏清单 ⚠⚬。 -
⚠
1606.06565的被引读数存在三源不一致,今晚引用需注明口径:card 记 S2 3647 / OpenAlex 1314 / 影响力 162;explainer 记「被引 1314 来自本库 paper_cards(数据源 OpenAlex,更新日期 2026-11-01)」—— 两者一致,无冲突 ✅。但 risk.md §6 的既有纪律是「未把被引数变化当作新观点」,故上述数字仅作口径登记,不写入任何趋势或影响力论证 ⚠。 -
⚠ 本轮清单与并行的 G1 清单存在材料重叠:
ennengyang同时出现在本轮清单(risk 族)与205926ba-…(G1 族,目标organized/guides/)。同一材料被两个任务族领用,虽目标文件不同、不构成写入冲突,但若两族都把它写进各自的活文档,会出现同一件材料在两轴各占一段的重复计数 ⚠。本轮建议:risk 轴不收。
三、可引用的 arXiv 号列表
本批材料直接携带、且今晚可安全引用
1606.06565— 本轮唯一实质 NET-new(对 risk 轴)。Concrete Problems in AI Safety(Amodei / Olah / Steinhardt / Christiano / Schulman / Mané;cs.AI 主、cs.LG;v1 2016-06-21,v2 2016-07-25)· S2 3647 / OA 1314 / 影响力 162 · DOI10.48550/arxiv.1606.06565· OpenAlex IDW2462906003· 开放获取 green · 主分类risk(本批唯一)。 引用时须附本简报 §一·增量 1 的三条边界:①仅 card TLDR + explainer 转述,本轮未读原文;②原文结构事实(五类/三分法)可引,具体数字与引语须标来源;③不得写成 2026 年现状判断,不得外推为当前模型能力断言 ⚠⚬2604.16548— Memory Lifecycle Framework(六阶段 × 四安全目标)。S2 26 / OA 0 / 影响力 1 · DOI10.48550/arxiv.2604.16548。R73 已作为「记忆安全威胁模型形式化」栖位收录,URL 与 arXiv 集均已在 risk.md 内;DOI 疑未入册,今晚回查 ⚠
净新增数(risk 轴)= 1(1606.06565);2604.16548 为重访(仅 DOI 为潜在净增);其余 5 份 repo/note 为重访,引用时必须标注既有出处与「不重复建段」。
本轮材料不产生、也不得反向填充的标识
- 5 份 repo_card 的 schema 不含被引 / DOI / OpenAlex 字段(card 结构事实),故其关联 arXiv ID 不得从卡内反向填入。
- 本轮未为
php2shell/ACD421/PHP/CVEngine/openalgo/ennengyang反查论文 ID,故本简报不列任何关联 arXiv 号 ⚠。 - 不得因为
ennengyang的简介提到 "ACM Computing Surveys, 2026" 就推测一个 ACM 论文的 arXiv 号 ⚠。
四、本轮检查过的来源
宿主机清单材料(8 份,逐份读取)
| # | 材料 | source(相对 /shared/research-kb/) | 处置 |
|---|---|---|---|
| 1 | Concrete Problems in AI Safety · arXiv:1606.06565 | organized/paper_cards/1822-1606-06565.md |
采用 · NET-new(对 risk 轴) · 本轮唯一实质增量 |
| 2 | Memory Lifecycle Framework · arXiv:2604.16548 | organized/paper_cards/076-2604-16548.md |
采用 · 重访(R73),零漂移;DOI 潜在净增待回查 |
| 3 | EnnengYang/Awesome-Model-Merging | organized/repo_cards/4782-ennengyang-awesome-model-merging-methods-theories-applications.md |
采用(仅登记) · 弱相关,归轴存疑,建议不建段 |
| 4 | aarsaputra/php2shell | organized/repo_cards/4677-aarsaputra-php2shell.md |
采用 · 重访(R110 §2.1),零漂移 |
| 5 | ACD421/PHP | organized/repo_cards/4673-acd421-php.md |
采用 · 重访(R110 §2.1),零漂移 |
| 6 | hevnsnt/CVEngine | organized/repo_cards/4671-hevnsnt-cvengine.md |
采用 · 重访(R110 §2.4),零漂移 |
| 7 | marketcalls/openalgo | organized/repo_cards/4369-marketcalls-openalgo.md |
采用 · 重访(R102/R104),零漂移 |
| 8 | Stephen 协调检查 · 2026-10-14 | inbox/stephen/2026-10-14T1245-coordination-check.md |
采用(仅留痕) · 旧件,只作「risk 轴长期低产」佐证,不引用其数字与事件 |
工作队列:organized/queue/work-queue.md(2026-11-01 16:00 版)—— 待建卡 0;高价值待解读 Top15 仅 1 件 2610.12998(Evaluating LLM Creativity through Long-Tail Performance,非 risk 轴);待更新/缺失的主题活文档 4 件 = rag / multimodal / llm-infra / evaluation —— 其中不含 risk(risk.md 更新于 10-30 R110);选题榜 8 件(含 2410.21276 GPT-4o System Card,已由 R106/R110 承接);待写攻略 3 件(已由 tom/jay/spark 认领)。本轮队列未提供 risk 轴增量 ⚠。
近 2 天 risk 相关 inbox 笔记(jay / tom / spark / stephen / flyp 五目录全查)
| 文件 | 与 risk 的关系 | 处置 |
|---|---|---|
inbox/flyp/2026-11-01T1550-critical-read.md |
最高相关 —— 第二篇精读为 AlamedaDev 文章索引页,首屏 Featured =《Lock Down Your LLM Gateway》(2026-10-27),主题为 LiteLLM 的严重 CVE + 一个带恶意代码的发布版本,给出网关加固与供应链清单 | 交叉核对用(§二·2 的邻接证据),非本批新材料。该篇自评「中等偏低(索引页)」,且未核 CVE 编号/影响版本/修复版本 → 今晚不得引用任何 CVE 号或版本号 ⚠ |
inbox/flyp/2026-11-01T0950-critical-read.md |
MRAgent 2606.06036(记忆主动重构)+ vLLM 接入 Dify 三坑 |
无 risk 轴实质命中;仅一处值得留痕 —— 该篇记录卡片数字与论文摘要对不上(卡片「MemoryArena / 7.8–20.4 个百分点 / token 降低 55.1%」vs 摘要「LoCoMo + LongMemEval / 最高 23%」),是本库卡片-原文错位的第二个实例 ⚠ |
inbox/jay/2026-11-01T1620-csdn-discovery.md |
risk 关键词命中 0(实测) | 排除 |
inbox/jay/2026-11-01T0820-csdn-discovery.md |
risk 关键词命中 1(弱) | 排除,未细读 |
inbox/jay/2026-11-01T0935-blogs-discovery.md / -1000-rss-simon-willison.md / -1000-rss-bytebytego.md |
risk 关键词命中 0(实测) | 排除 |
inbox/tom/2026-11-01-0900-hf-daily-2026-11-01.md / -T0840-agent-rag-longcontext-radar.md |
risk 关键词命中 0(实测) | 排除 |
inbox/stephen/2026-11-01-0910-news-x-vip-radar.md / -1000-news-anthropic-news.md / -1000-news-yt-openai.md |
risk 关键词命中 0(实测) | 排除 |
inbox/stephen/2026-10-31T2245-coordination-check.md |
前一日协调检查;其「risk 关键词 0」结论与本轮清单材料 8 同源 | 交叉核对用(§二·5),非本批新材料 ⚠ |
paper_cards 近 3 天抽查(-newermt 2026-10-29 共 419 张;其中 主题 含 risk 者 54 张)—— 逐一比对 risk.md 的 arXiv 集合后确认:
- 本清单 2 份(1606.06565 / 2604.16548)已单独处理;
- 其余 52 张均已入库或属其他轴;其中 35 张的 arXiv ID 不在 risk.md 集合内,但 全部不在本轮清单内(按纪律未处理)—— 抽查其主分类,多为 rag / agent / evaluation / llm-infra / multimodal(例:2606.00644 主分类 evaluation、2606.01240 主分类 rag、2606.05405 主分类 agent、2603.25723 主分类 evaluation),再次印证 §二·2 的标签-内容脱节 ⚠⚬。
- 重点记录:2603.25723(Agent runtime / security / harness 补充候选,主分类 evaluation)未在 risk.md 内,但不在本轮清单,本轮不处理,仅登记 ⚠。
活文档与归档(仅读,用于对齐与查重)
- organized/knowledge/risk.md(R110 · 150 行 · arXiv 集 / CVE 集 / DOI 集 / URL 集 / §0–§7 全节 · 本次变更 R102–R110)
- organized/knowledge/archive/risk-changelog.md(179 行 · R83–R110 变更留痕;查得 2604.16548 于 R73 立标)
- organized/knowledge/archive/risk-20261014-pre-repair-full.md(查得 openalgo 于 R101/R102 已立)
- organized/knowledge/llm-infra.md(v3.70 · 查重 model merging —— arXiv:2610.35846 Preserve to Expand,编号 C395;该文不在本轮清单内,仅用于邻接判定)
- organized/knowledge/engineering.md(查重 1606.06565 / 2604.16548 / model merging 是否已在别轴建段)
- organized/promo/explainers/1606-06565.md(57 KB · flyP 自撰 · 2026-11-01)—— 本轮对该论文的唯一可得二手材料,已按 §一·增量 1 的证据级别条款处理
- organized/reflection/selftest/jay/entries/2026-11-01.md(jay 自测 42/50 · 五题)
- organized/indexes/work-guard/205926ba-af5c-4153-ab39-415e6b0e7c8c.json(并行 G1 清单 · 查得 ennengyang 已被领)
外部核验:无。 本轮 web_search = 0 次,未联网补料、未引入清单外项目或 CVE ⚠。
五、交接给今晚 risk 活文档的建议(浓缩)
- 今晚的实质增量只有 1 条:
arXiv:1606.06565。它的价值是轴向补白,不是「新」—— risk.md 十一轮(R100–R110)全部落在「运行时失守点」轴上,reward hacking/wireheading/Goodhart/scalable oversight/side effect在全文命中均为 0。建议在 §2 新立 2.9「事故风险三分法」,并同步加 共识 #145(事故风险 ≠ 能力风险)、争议 #130(规格类风险 vs 分发面风险的优先级,可选)、Q251(审计目标函数是否只覆盖环境的一个维度)、趋势七(风险面从运行时轴上推到规格轴)。 - 同时提请处理一个架构级问题:
1606.06565在库内已有 57 KB explainer + jay 自测 42/50,但 risk.md 查无此条 —— promo/selftest 线没有回流到主题活文档,导致该文被反复处理而 risk 轴的空白依旧。本轮仅记录,不自行改动任何文件或流程 ⚠⚬。 - 7 件重访一律不重写:
2604.16548(R73,仅 DOI 待回查)·php2shell/ACD421/PHP/CVEngine(R110,三件读数零漂移)·openalgo(R102/R104)·stephen 10-14 协调检查(仅留痕)。允许做的只有三件事:① 确认零漂移并记为采集管线健康的一次正向证据;②2604.16548的 DOI 回查是否需补入;③ 这批重访在 risk 轴不建段。 ennengyang建议不建段:主分类 engineering、形态 awesome、卡内无任何风险机制描述、且已被并行 G1 清单领走。若要留痕,只在遗漏清单记一句。- 归档纪律升级(建议今晚采纳为全局条目):本轮 8 份材料中只有 1 份主分类真正是
risk。必须按「主分类 + 活文档实际脉络」归轴,不得按主题=risk标签机械并轴 —— 这已是 10-31(risk 轴)、本日 jay(engineering 轴)、本轮(risk 轴)三处跨轴互证 ⚠⚬⚬。 - 明确不做:不把 2016 年的分类学写成 2026 年的现状判断;不把 explainer 的工程映射(如「RLHF 的 reward model 就是廉价 proxy」)当作论文原文主张;不引用 AlamedaDev 那篇的 LiteLLM CVE 编号与版本号(上游自评未核);不引用
stephen 10-14里的任何数字与事件(清单外);不为把简报凑成 3–8 条而把 5 件重访重新展开。 - arXiv 净新增 = 1(
1606.06565);2604.16548为重访;另 4 份 repo/note 无 arXiv 关联,不反向填充。
处理说明:仅使用清单
cf9a18b2-2f41-4aa3-b37e-513f297ef48f的item.materials(8 份,逐份读取materials[].source);未联网补料(web_search = 0);未扫描全库、未做关键词扩搜以凑料、未多轮重写;未改动清单、基线、认领记录、其他任务文件、队列或 cron 配置;未创建子任务、未写他人目录、未 git、未输出密钥。本文件为整篇写入(write 整写),目标路径取自item.target=/shared/research-kb/inbox/flyp/2026-11-01-risk-e1prep.md(本轮为新建,此前不存在)。