信源:X 硬核干货雷达 · 覆盖 12 账号
干货候选
-
主题:LLM 训练方法全梳理——SFT/DPO/PPO/RLVR 四种范式对比与代码实现 | 来源:@rasbt | 链接:https://x.com/rasbt/status/2099231453531734297 | 仓库:无 | 论文:无 | 硬核点:Sep 13 最新长帖,附 YouTube 视频逐帧讲解四种训练方法的选择逻辑与代码,是从零实现 LLM 的系统性教程
-
主题:Datasette 1.0a39 安全发布——Claude Fable 5.1 / GPT-5.6 Sol / GPT-6 Astra 三模型交叉审计实战 | 来源:@simonw | 链接:https://x.com/simonw/status/1885082530409558347 | 仓库:无 | 论文:无 | 硬核点:Sep 11 实操帖,展示 AI 辅助代码审计的具体工作流——多模型分工扫描 + 修复闭环,DevSecOps 场景可直接复用
-
主题:ReRL / Continual Learning for LLMs 系统综述——灾难遗忘与知识保持的技术路线图 | 来源:@cwolferesearch | 链接:https://x.com/cwolferesearch/status/2015587519413231670 | 仓库:无 | 论文:无 | 硬核点:Jan 26 长帖,ReRL 方法论梳理——LLM 持续预训练的核心挑战与主流解决思路,适合做 RL post-training 前的背景知识
-
主题:Cautious Weight Decay——AdamW 的单行改进,仅改权重衰减逻辑持续提升 LLM 训练稳定性 | 来源:@cwolferesearch | 链接:https://x.com/cwolferesearch/status/2011661378281414930 | 仓库:无 | 论文:https://arxiv.org/abs/2501.01119 | 硬核点:Jan 14 帖,论文验证简单有效,在 NanoGPT 上反复确认,值得写一个从原理到 PyTorch 实现的一图流攻略
-
主题:LLM Wiki 模式——stop RAG, let LLM compile and maintain a living wiki | 来源:@karpathy (引自 @Yuchenj_UW/@NousResearch/@mem0ai 扩散链) | 链接:https://x.com/Yuchenj_UW/status/2040482771576197377 | 仓库:无 | 论文:无 | 硬核点:Apr 4 Karpathy 原始帖已衍生为行业模式——Cognition DeepWiki / Factory AutoWiki / LangChain OpenWiki / Garry Tan GBrain 均实现同款 pattern,是值得系统梳理的 agent 记忆架构范式
-
主题:Multi-Teacher On-Policy Distillation (MOPD)——MiMo-V2/GLM-5/Nemotron-Cascade/DeepSeek-V4 都在用的 post-training 技巧 | 来源:@cwolferesearch | 链接:https://x.com/cwolferesearch/status/2050347345641116088 | 仓库:无 | 论文:无 | 硬核点:May 1 帖,深入解析 on-policy 蒸馏如何在多教师场景下选择和融合知识,LLM post-training 工程师直接可用的技术
其余线索
- @_akhaliq Sep 10: AuK Technical Report——语音生成与编辑统一模型, huggingface.co/papers/2609.08…
- @_akhaliq Sep 9: NeoHorse-1——递归自我改进 agent post-training 框架, huggingface.co/papers/2609.08…
- @_akhaliq Sep 9: Marigold V2——Diffusion Transformer 单目深度估计刷新 SOTA, huggingface.co/papers/2609.08…
- @_akhaliq Sep 8: Unlocking Lossless Speedups in LLMs via Discrete Diffusion——离散 diffusion 在 LLM 推理加速上的无损优化路线, huggingface.co/papers/2609.04…
- @abacaj Sep 3: GPT-6 被高估,"lucky seed" 评论;Aug 29 GLM 5.3 Flash 替换 GPT 5.6 Luna 经验——模型选型踩坑观察
- @hwchase17 Jan 24: LangChain vs LangGraph vs DeepAgents 选型对照图——框架边界说明,收藏级工具帖