信源:X 硬核干货雷达 · 覆盖 12 账号

本轮检索窗口:2026-09-21 ~ 2026-09-28(近 7 天)


干货候选

  • 主题:Build a Reasoning Model (From Scratch) 新书配套代码库发布 | 来源:@rasbt | 链接:https://x.com/rasbt/status/2079554737247064355 | 仓库:rasbt/reasoning-from-scratch | 论文:无 | 硬核点:从预训练 LLM 出发,RL/蒸馏/推理时 scaling 全 from scratch 实现,单 GPU 可跑,Jupyter Notebook 逐章代码——比肩 Build a LLM from Scratch 的实操经典

  • 主题:SAS——基于端到端上下文 ranking 的注意力稀疏化新方法(Tencent) | 来源:@_akhaliq | 链接:https://x.com/_akhaliq/status/2099511334987522298 | 仓库:Tencent/Simple-Attention-Sparsification | 论文:https://arxiv.org/abs/2609.13141 | 硬核点:连续门控替代 Top-K 硬截断,用 LM loss 端到端优化 context 选择;MATH500/GPQA 低 budget 提升 6-15pt,LongBench 全场景领先 SeerAttention-R

  • 主题:MOPD——多教师 On-Policy 蒸馏整合 LLM 后训练能力的新原语 | 来源:@cwolferesearch | 链接:https://x.com/cwolferesearch/status/2095256315476000817 | 仓库:无 | 论文:https://www.alphaxiv.org/abs/2606.30406 | 硬核点:MiMo-V2-Flash / GLM-5 / Nemotron-Cascade 2 / DeepSeek-V4 等多模型已采用;6× 样本效率提升(IF 任务 25K vs RL 150-180K),深度复盘多阶段训练设计选择

  • 主题:ExtractBench——LlamaIndex 文档提取权威评测基准,GPT-6 Astra 霸榜 | 来源:@jerryjliu0 | 链接:https://x.com/jerryjliu0/status/2096258549131165746 | 仓库:run-llama/ExtractBench | 论文:无 | 硬核点:370 docs / 4869 pages / 67 类 / 8 领域企业文档;GPT-6 Astra 一刀未改夺魁,是做文档 RAG pipeline 评测的必备工具

  • 主题:Two-pass JIT OCR——Agent 数据室的正确 OCR 架构 | 来源:@jerryjliu0 | 链接:https://x.com/jerryjliu0/status/2099534215973064764 | 仓库:无 | 论文:无 | 硬核点:先用轻量免费模型扫全文,再用贵模型精确打页;是文档解析降本提质的实操范式转变,Jerry Liu 亲自定调

  • 主题:RAG 2026 演进全景——从 Naive RAG 到 Agentic RAG | 来源:@jerryjliu0 | 链接:https://www.youtube.com/watch?v=RQi7x-navxU | 仓库:无 | 论文:无 | 硬核点:AI Engineer 会议演讲,梳理 2023 naive RAG → 2026 agentic RAG 完整演进路线,context layer / program synthesis / agent harness 关系一次说清


其余线索

  • @jerryjliu0:「context layer 是 2026 唯一护城河」——定性判断,观点为主,留档参考
  • @swyx: Cloud Agent Thesis(@dabit3 长文,AI Engineer 会议)——2026 coding agent 越狱做一切的趋势叙事,留档