信源:X 硬核干货雷达 · 覆盖 12 账号
干货候选
-
主题:KV Cache 内存预算交互计算器——分离权重内存与 KV-cache 增长,明确头疼的"7B 模型 8GB 能跑多少 token" | 来源:@rasbt | 链接:https://x.com/rasbt/status/2096655320172962176 | 仓库:无 | 论文:无 | 硬核点:将内存规划从经验估计变成具体系统权衡,KV head count 是决定因素而非参数量,对做本地推理或长上下文的人非常实用
-
主题:Build A Reasoning Model From Scratch 第 2 集——加载基础模型、文本生成、KV 缓存,YouTube + 专栏同步更新 | 来源:@rasbt | 链接:https://x.com/rasbt/status/2096596377845346381 | 仓库:无 | 论文:无 | 硬核点: rasbt 从零手写 RL/蒸馏/scaling 全套,这个系列是当前最系统的推理模型教育内容,围观社区反馈"KV caching part finally clicked"
-
主题:浏览器内 LLM 微调 WebGPU PoC——ngxson 在 wllama 中实现 llama.cpp WebGPU 训练,LoRA 是下一步 | 来源:@maximelabonne | 链接:https://x.com/maximelabonne/status/2096456605076476239 | 仓库:ngxson/wllama | 论文:无 | 硬核点:纯推理变训练,WebGPU 从浏览器内加速 inference 升级到加速 fine-tuning,隐私+去 server 的意义重大,PoC 已跑通
-
主题:GPT-6 Astra 与 Looped Transformer 深度解析——循环深度如何工作、cost 权衡、是否隐藏 reasoning traces,附大量图表与近期 looped transformer 研究综述 | 来源:@rasbt | 链接:https://x.com/rasbt/status/2097677950262939931 | 仓库:无 | 论文:无 | 硬核点:目前最完整的 GPT-6 Astra 技术解析,32K views,澄清了"looped 不等于藏 reasoning token"的技术实质
-
主题:Beyond Prompts: Measuring and Optimizing LLM Tool-Agent Harnesses——将 harness 优化建模为预算选择,edits 是 tool boundary 上的 guarded intercepts 而非 rewrite,EMNLP 2026 | 来源:@hwchase17 | 链接:https://x.com/hwchase17/status/2097720484431360365 | 仓库:无 | 论文:https://arxiv.org/abs/2609.05736 | 硬核点:LangChain 官方背书,把 harness 工程化抽象成可优化的对象,对做 agent 架构的人有直接参考价值
-
主题:Harness Engineering Paper Collection——YC Paper Club 2026-08-26 整理的 18 篇 harness 工程核心论文,从 v0 harness 到 Meta-Harness、Continual Harness | 来源:@omarsar0 | 链接:https://x.com/omarsar0/status/2097449131648197024 | 仓库:无 | 论文:无 | 硬核点:最系统的 harness 工程文献地图,从 bare loop 到 meta-harness 到 continual adaptation,适合系统性了解这个领域
-
主题:NeoHorse-1: Agentic Post-Training with Routing Harness——4B 模型通过 routing harness 实现递归自我改进,后训练分数 58.94→64.87,Sep 9 | 来源:@_akhaliq | 链接:https://x.com/_akhaliq/status/2097726309736874183 | 仓库:无 | 论文:https://huggingface.co/papers/2609.08xxx | 硬核点:routing harness 把 self-improvement loop 具体化为训练数据生成闭环,解决"模型做什么"和"模型学什么"之间的 gap
-
主题:Unlocking Lossless Speedups in LLMs via Discrete Diffusion——Sep 8,无损推理加速新方法 | 来源:@_akhaliq | 链接:https://x.com/_akhaliq/status/2097454804272566527 | 仓库:无 | 论文:无 | 硬核点:离散 diffusion 路线在 LLM 推理加速上的新进展,属于模型架构层面的硬核优化
其余线索
- Marigold V2——SIGGRAPH Asia 2026,将 diffusion transformer 复用为 depth estimator,@_akhaliq Sep 9 分享,图像+深度双任务
- Coding Agents 超越代码生成:报告指出收益在代码编写和可靠软件交付之间急剧收缩,review/integration/testing/security/deployment 是持续瓶颈,@omarsar0 Sep 8 分享
- Sakana AI Conductor Model——ICLR 2026,LLM orchestration with RL,递归拓扑实现 test-time scaling,@omarsar0 早期窗口分享
- Liquid AI LFM2.5-Encoder 230M/350M——3.7x faster than ModernBERT-base on CPU,@maximelabonne Sep 4 分享