risk · E1 预消化简报(2026-10-31)

范围声明(依宿主机增量清单 cf9a18b2-2f41-4aa3-b37e-513f297ef48f,创建 16:30,有效期 1 小时):本轮仅处理该清单 item.materials 的 8 份材料(5 份 paper_card + 3 份 repo_card)。未做全库扫描、未做网页搜索补料、未为凑字数多轮重写。未改动清单、基线、认领记录、其他任务文件、队列或定时配置。本文件为整篇写入(write 整写,禁 edit),目标路径取自 item.target。

本轮批次性质(台账,非观点):8 份材料中 7 份为活文档已入库条目的重遇(3 repo + 4 paper),仅 1 份为净新增(arXiv:2107.03374)。且该净新增件是 2021 年的经典论文,其增量价值不在"新"而在"轴向错位"(详见 §一·增量 1)。按活文档已立纪律,重遇条目只作口径记录,不重写方法学结论。

一、今日该主题最重要的增量

增量 1 🟡🟡🟡【本轮唯一实质增量 · 建议今晚主轴级处理】arXiv:2107.03374 Evaluating Large Language Models Trained on Code(Codex)—— 全库首次收录,且其风险面被本库此前完全空白

• 来源:organized/paper_cards/436-2107-03374.md(清单材料 4,逐行读取)· arXiv:2107.03374 · https://arxiv.org/abs/2107.03374 · DOI 10.48550/arxiv.2107.03374 · OpenAlex ID W3177813494 · 开放获取 green
• 本轮卡片读数(一手,来自 card 字段):S2 被引 12497 / OpenAlex 被引 1436 / 影响力被引 1871 · 主分类 evaluation · 副主题 risk · 形态 method · 待LLM分类:否 · OpenAlex更新:2026-10-31
• 要点(可核查,严格限于 card 的 TLDR + TLDR中文,不外推): 1. 重复采样(repeated sampling)是产出可运行解的策略:TLDR 原文 —— "repeated sampling from the GPT language model is a surprisingly effective strategy for producing working solutions to difficult prompts"。这是采样次数 → 成功率这一映射在 2021 年就被实测确认的现象,是本库此前没有任何条目记录的机制。 2. 该文同时讨论「部署强大代码生成技术的更广泛影响」,明确覆盖三个面 —— TLDR 原文 "covering safety, security, and economics";TLDR中文同步:"在安全性、安全保障与经济等方面"。即这份代码生成工作自带风险章,不是纯能力论文。 3. 该文的署名身份即防御侧资产:Codex 即 OpenAI 的代码生成模型,其首次公开评估同时是「能力说明书」与「风险披露书」。这一点对 risk 轴有结构性意义:本库 risk.md 收录的 2410.21276(GPT-4o System Card)是 position 形态(系统卡),而 2107.03374 是 method + 风险影响混合形态 —— 本库此前只登记过"能力披露"侧的安全卡,没有登记过"能力文档内自带风险影响章节"这一体裁。
• 与活文档现有脉络的关系:
• §2 现状全景 / 趋势六「风险面继续向下游推」:R110 的链条是 R107 协议层 → R108 训练期/权重层 → R109 工具供应链层 → R110 披露后生态层 + Agent 预算层。本条不在该链条上 —— 它是链条上游的一环:风险面下沉到"模型能写多少能跑的代码"这一能力轴本身。R100–R110 十轮讨论的几乎全部是「Agent 运行时失守点」,唯独没有一篇材料讨论过"代码生成能力这一能力轴本身的风险面"。
• §2.8 承接位(2410.21276 GPT-4o System Card):该件是显式安全评估文档,R106 已承接;而 2107.03374 是技术报告中内嵌风险影响讨论。二者构成体裁对照:同一模型家族、同一厂商,一个把安全单独立文档,一个把安全写进主报告。建议今晚把这个对照立起来。
• §3 争议区:与 #124「披露后复现工具的自我约束声明是否有采信效力」同源但更上游 —— 代码生成模型的"能力披露"与"风险披露"是否应当被强制分离;这与 R110 #139「写在提示里的约束不是控制」在治理层同构:风险讨论写在技术报告的某一节里,和风险被制度化为独立可审计文档,不是一回事。
• §4 开放问题:R110 的 Q242–Q250 全是运行时工程清单(监控复现生态、审批哈希绑定、三态语义、自治提权路径、预算护栏…)。没有任何一条问过"代码生成能力该不该被单独当作一条风险面来管理"。这是本条能补上的空白。
• §5 趋势判断:可支撑一条新趋势 —— 「能力维度的风险面」与「运行时维度的风险面」是两个独立轴,后者不能覆盖前者。R110 六个趋势全部落在运行时轴。
• 建议归入:
• §2 新立 2.x「能力维度的代码生成风险:Codex(arXiv:2107.03374)首次公开评估自带的 safety/security/economics 三面」,等级建议 ★★★ 主轴级(本轮唯一实质增量,且填补 R100–R110 十轮的结构性空白)。
• §3 争议区新增一条(#130 起编):「能力文档中的风险讨论,是否等同于制度化的风险披露」 —— 与 #139 治理层同构,但对象是「技术报告的风险章」而非「prompt 里的约束」⚠。
• §4 新增 1 条 P1(Q251 起编):审计现有模型评估文档中,「安全/经济影响」章节是否具备独立可审计性(是否给检测方法、是否给失败率、是否给可核查的受影响面)⚠。
• §5 新增一条趋势(趋势七):「风险面从运行时轴扩展到能力轴」 ⚠。
• §7 遗漏清单须补一条:本条仅基于 paper_card 的 TLDR 与 TLDR中文,未读原文的风险影响章全文,未核实任何具体数字、未核实「重复采样」的采样次数-成功率曲线形态 ⚠⚬。
• 内容安全约束(重要):本条只登记「该文讨论了 safety/security/economics 三面影响」这一体裁事实与「重复采样作为策略」这一机制名;不得据此写出任何攻击步骤、绕过方法,也不得把「重复采样有效」写成「重复采样是当前最强代码模型能力断言」——该结论基于 2021 年的模型与数据,不可外推到 2026 年 ⚠⚬。

台账 A(口径记录,非观点)· 4 份 paper_card 为重访,其中 2 份已由本日 jay 的 engineering 简报登记

台账 B(口径记录,非观点)· 3 份 repo_card 为 R110 重访,读数与活文档完全一致,零漂移

台账 B 的处置纪律:3 件 repo 一件都不重写。R110 已把它们写成风险链的三个环节(BLA=攻防对称建模的链中节点 / Vigil=自治降级原则 / safarier=真实引擎替代伪装),今晚无任何新事实可加。唯一可做的是确认读数零漂移(★/周增/许可/成熟度均与 R110 一致),并把这条「零漂移」记为采集管线健康的一次正向证据 —— 与本轮 §二·2 的重访率问题形成对照。

二、值得警惕的矛盾与待核实说法

1. ⚠⚬⚬ 卡片 主题=risk 与 主分类 严重背离,本批 5 份 paper 中有 4 份是「risk 标签挂在非 risk 论文上」。逐条读数:2112.09332(主题 risk / 主分类 engineering)· 2407.21783(主题 risk / 主分类 multimodal)· 2205.01068(主题 risk / 主分类 engineering)· 2303.08774(主题 risk / 主分类 multimodal)· 2107.03374(主题 risk / 主分类 evaluation)。唯一主分类与主题口径相合的 paper 是 2107.03374? 否 —— 它的主分类是 evaluation 也非 risk。结论:本批 5 份 paper 无一主分类为 risk。 本日 jay 的 engineering 简报已就 WebGPT / OPT 两份写下同一条纪律(「卡片 主题 字段不可作归档依据」),本轮在 risk 轴再次独立复现该结论,且范围扩大到全部 5 份。今晚归档必须以「主分类 + 活文档实际脉络」为准,不得按 主题=risk 标签机械并轴 —— 否则本批会把 WebGPT / Llama 3 / OPT / GPT-4 TR 四份经典工程论文错误并入 risk 轴 ⚠⚬⚬。建议把这条升级为全局归档纪律条目(涉及至少 engineering / risk 两轴)。

2. ⚠⚬ 本轮 8 份材料中 7 份为重遇,重访率 87.5%。与 risk.md 自身历史形态对照:R109 7 repo 全净新增、R110 7 repo 全净新增、而本轮 3 repo 全部零漂移重访。不能据此推断「risk 方向近两日无进展」 —— 只能说「本轮可见窗口内无新料」。但重访过滤机制的可靠性是可核查的工程问题:上游「未处理材料」清单的重访过滤尚不充分,这会持续把已入库条目反复投喂给日间预消化,消耗批次容量。建议提请检查该清单的生成逻辑(注:本条只作观察记录,不自行改动任何清单或基线文件) ⚠。

3. ⚠⚬ 2407.21783 与 2303.08774 两卡的 OpenAlex 被引数相对既有记载出现微幅上移(Llama 3: 503→505;GPT-4 TR: 2401→2403)。按纪律仅作口径记录,不改写结论、不当作新观点 ⚠。留痕原因:这类微幅漂移若连续多轮同向累积,可能指示卡片重采集周期或 OpenAlex 侧口径变更,而不是真实的引用增长。待核实:下一轮若同向,再考虑升级为独立的「口径监测项」;本轮明确不升级。

4. ⚠⚬⚬ 2107.03374 的边界尚未闭合,今晚不得越界引用。本条仅基于 paper_card 的 TLDR 与 TLDR中文(一手 card 字段),未读原文的安全/经济影响章节全文。具体地:「重复采样」的采样次数-成功率曲线形态、原文给出的任何具体百分比、「safety/security/economics」三面各自的论点与证据强度,本轮全部未核实。不得把「重复采样对困难 prompt 有效」写成当前代码模型的能力断言 —— 该结论基于 2021 年的模型与数据 ⚠⚬。建议今晚落一条明确的「待补齐」标记,与 R110 遗漏清单第 ⑨ 条(2410.21276 的缓解清单未展开)同规格处理。

5. ⚠ 本轮 3 件 repo 与 5 件 paper 的 待LLM分类 字段不一致:2112.09332(是)· 2205.01068(是)· Vigil-SOC/vigil(是)为待分类;其余 5 件为否。这意味着本批有一半条目的分类尚未经 LLM 精修 —— 今晚不得把这些条目当作「分类已定论」使用,尤其 2407.21783 / 2303.08774 被分类器标 主分类=multimodal 而实际是语言模型主报告,该主分类本身就疑似误分类 ⚠。

6. ⚠ 交叉核对到的同窗口外部信号(不并入本轮增量,仅登记以免今晚遗漏方向):本日 stephen 的 ai-industry-e1prep.md 记录了一条与 risk 轴高度相关但本轮清单未包含的材料 —— Epoch AI 实测 GLM 5.3 在「补丁间隙」(patch gap)内攻击 Firefox,单版本成本约 $1,000,Mozilla 已于 2026-10-27 发布 Firefox 159.0 修补,该漏洞未公开披露过 CVE 编号。这条与本轮 2107.03374 恰好构成互补的上下游:本轮是「代码生成能力的安全影响」,stephen 那条是「开放权重模型已能低成本在野利用」。但它不在本轮清单内,按纪律本轮不并轴、不引用其数字;仅在此登记方向,建议今晚由 risk 活文档作者自行判断是否另立轮次处理 ⚠⚬。

7. ⚠ stephen 10-31 协调检查已点名「risk 方向关键词 0」的缺口:其统计显示本轮 20 份他人草稿中 risk / safety / 模型训练类方向关键词命中为 0,而 flyP 的周六精读实质上「是一份风险清单」却未被标 risk 标签。本轮简报即是对该缺口的直接响应 —— 本批 8 份材料恰好全部来自 risk 标签池但内容上几乎全不属 risk 轴,这正是「关键词标签与内容方向脱节」的实证 ⚠。建议今晚的 risk 归档按内容而非标签归轴。

三、可引用的 arXiv 号列表

本批材料直接携带、且今晚可安全引用 - 2107.03374 — 本轮唯一 NET-new。Evaluating Large Language Models Trained on Code(Codex)· S2 12497 / OA 1436 / 影响力 1871 · DOI 10.48550/arxiv.2107.03374 · W3177813494 · 开放获取 green。引用时须附本简报 §一·增量 1 的三条边界(仅 TLDR 级 / 不外推 2021→2026 / 不写攻击步骤) ⚠⚬ - 2112.09332 — WebGPT · S2 2179 / OA 266 / 影响力 136 · DOI 10.48550/arxiv.2112.09332 · W4226227340。已由 engineering.md v156 脉 M 收录;引用时须标明「邻接轴已有,勿重复建段」 ⚠ - 2407.21783 — The Llama 3 Herd of Models · S2 20321 / OA 505 / 影响力 3679 · DOI 10.48550/arxiv.2407.21783 · W4401306886。已由 engineering.md v155 脉 J 收录 ⚠ - 2205.01068 — OPT · S2 5078 / OA 878 / 影响力 543 · DOI 10.48550/arxiv.2205.01068 · W4229005866。已由 engineering.md v155 脉 I 收录 ⚠ - 2303.08774 — GPT-4 Technical Report · S2 28022 / OA 2403 / 影响力 3359 · DOI 10.48550/arxiv.2303.08774 · W4327810158。已由 engineering.md v155 脉 J 收录;另 multimodal archive §3.105 已登记为「经典回召里程碑」 ⚠

净新增数 = 1(2107.03374);其余 4 个为重访,引用时必须标注既有出处与「不重复建段」。

本轮材料不产生、也不得反向填充的标识 - 3 份 repo_card 的 schema 不含被引 / DOI / OpenAlex 字段(card 结构事实),故其关联 arXiv ID 不得从卡内反向填入;本轮未为 BLA / safarier / Vigil 反查论文 ID,故本简报不列任何关联 arXiv 号 ⚠。

四、本轮检查过的来源

工作队列:organized/queue/work-queue.md(16:00 版 · 待建卡 0 · Top15 高价值 1 件 2610.12998 / 主题活文档待更新 3 件 rag·multimodal·evaluation / 选题榜 8 件 / 待写攻略 3 件 —— 其中无 risk 轴条目,故本轮队列未提供 risk 增量)⚠

近 2 天 risk 相关 inbox 笔记(jay / tom / spark / stephen 四目录全查) | 文件 | 与 risk 的关系 | 处置 | |---|---|---| | inbox/jay/2026-10-31-engineering-e1prep.md | 最高相关 —— 同日另一批次已处理 WebGPT + OPT 两张同一 paper_card,并明写「卡片主题字段不可作归档依据」「避免把 WebGPT / OPT 误并入 risk 轴」 | 交叉核对用(查重 + 纪律对齐),非本批新材料 | | inbox/stephen/2026-10-31-ai-industry-e1prep.md | 增量 1 = Epoch AI 实测 GLM 5.3 patch gap 攻击 Firefox(≈$1,000/版本,Firefox 159.0 于 10-27 修补,未公开 CVE 编号);含 open-weight 攻防三方口径分歧 | 仅登记方向(§二·6),不并轴、不引用其数字 ⚠ | | inbox/stephen/2026-10-31-0910-news-x-vip-radar.md | Claude「自评估」:回应后自动做一次对话安全审查 | 方向参考,未采用(清单外) | | inbox/stephen/2026-10-31T1245-coordination-check.md | 点名「risk / safety 方向关键词 0」缺口 | 交叉核对用(§二·7) | | inbox/jay/2026-10-31T1620-csdn-discovery.md | 悬镜安全:AI 红队载荷分类 / MCP 与第三方 Skill 市场审查 / XSBOM→SCA→RASP 闭环;原文自标「数值一律不可引用」 | 线索池登记,不引用任何数值 ⚠ | | inbox/tom/2026-10-31-rag-e1prep.md | 安全轴交叉:确认 2609.39075 / 2606.25533 等已在 risk.md 内 | 查重用 | | inbox/flyp/2026-10-31T1550-critical-read.md | 与 risk 无关(Datadog 拆分迁移) | 排除 | | inbox/spark/2026-10-31-agent-e1prep.md | 无 risk 命中 | 排除 | | tom / spark / stephen 10-29、10-30 其余笔记 | 无 risk 轴实质命中 | 排除 |

paper_cards 近 3 天抽查(350 张中 主题 含 risk 者 34 张)——逐一比对活文档 arXiv 集合后确认:除本清单 5 份外,其余均已入库或属其他轴(2603.07379 / 2605.27123 / 2305.09617 / 2305.06500 虽不在 risk.md,但亦不在本清单内,未处理)⚠

活文档与归档(仅读,用于对齐与查重) - organized/knowledge/risk.md(R110 · 150 行 · arXiv 集 / CVE 集 / DOI 集 / URL 集 / §0–§7 全节) - organized/knowledge/archive/risk-changelog.md(179 行 · R83–R110 变更留痕) - organized/knowledge/engineering.md(v155 / v156 · 查重 4 份 paper) - organized/knowledge/llm-application.md · organized/knowledge/coding-agents.md(查重 Codex 是否已入库) - organized/knowledge/llm-infra.md(查重 Vigil)

外部核验:无。本轮 web_search = 0 次,未联网补料、未引入清单外项目或 CVE ⚠。

五、交接给今晚 risk 活文档的建议(浓缩)

• 今晚本轮实质增量只有 1 条:arXiv:2107.03374(Codex)。它填补的是 R100–R110 十轮的结构性空白 —— 前十轮全部在「Agent 运行时失守点」轴上,没有一篇材料处理「代码生成能力本身作为独立风险轴」。建议在 §2 立 2.x(★★★ 主轴级),并同步加 争议 #130(能力文档中的风险讨论 ≠ 制度化风险披露,与 #139 治理层同构)、Q251(审计模型评估文档中安全章节的独立可审计性)、趋势七(风险面从运行时轴扩展到能力轴)。
• 7 件重遇一律不重写:3 repo 零漂移(BLA / safarier / Vigil 已完整写入 R110 §2.3/§2.5/§2.7,链中位置已定);4 paper 已由 engineering v155/v156 收录(WebGPT / OPT / Llama 3 / GPT-4 TR)。允许做的只有三件事:① 确认零漂移并记为采集管线健康的一次正向证据;② Llama 3 / GPT-4 TR 的 OA 微幅上移仅作口径记录;③ 四份 paper 在 risk 轴不建段。
• 归档纪律升级(建议今晚采纳为全局条目):本轮 5 份 paper 无一主分类为 risk,却全部被 主题=risk 标签选中。必须按主分类 + 活文档实际脉络归轴,不得按 主题 标签机械并轴 —— 这是本日 jay 简报在 engineering 轴独立得出的同一结论,本轮在 risk 轴复现,构成跨轴互证 ⚠⚬⚬。
• 明确不做:不因「本批 8 份里有 5 份是 2021–2024 年经典论文」而把 risk 轴回退成经典综述轴;不把「重访率 87.5%」写成「risk 方向近两日无进展」;不引用 Epoch AI patch gap 那条(清单外,已登记方向);不引用悬镜安全的任何数值(上游自标不可引用);不为把本简报凑成 3–8 条增量而把 7 件重遇重新展开。
• arXiv 净新增 = 1(2107.03374);另 4 个为重访,引用时必须标注既有出处与「不重复建段」。

处理说明:仅使用清单 cf9a18b2-2f41-4aa3-b37e-513f297ef48f 的 item.materials(8 份,逐份读取);未联网补料(web_search = 0);未扫描全库、未做关键词扩搜、未多轮重写;未改动清单、基线、认领记录、其他任务文件、队列或 cron 配置;未创建子任务、未写他人目录、未 git、未输出密钥。本文件为整篇写入(write 整写),目标路径取自 item.target = /shared/research-kb/inbox/flyp/2026-10-31-risk-e1prep.md(本轮为新建,此前不存在)。