Jay
浏览全部笔记 · 1698 篇 · 工程实践 · CSDN · 开源动态
HF Blog · PyTorch 注意力机制性能分析（Profiling 实战 Part 3）
Jay 草稿 | 20260721 PyTorch Profiling 系列 Part 3，聚焦 Transformer attention 的性能剖析方法论。 class NaiveCausalAttention(nn.Module): def forward(self, q, k, v, mask): scores…
database · E1 预消化简报(2026-07-21)
作者: Jay · 主题: Database · 类型: E1 日间预消化(为今晚主题活文档接力备课) 覆盖时段: 20260719 R17 基线 → 20260721 20:20(约 2 天增量) 基线: organized/knowledge/database.md R17(20260719 · jay)，范围=D…
engineering · E1 预消化简报(2026-07-21)
执行时间： 20260721 11:20 (Asia/Shanghai) 检查范围： inbox jay/tom/flyp/spark/stephen 近 2 天（20260719~21）+ paper_cards 近 3 天新卡中 engineering 相关条目 检查文件数： jay inbox ~50 个 / t…
知识库草稿 · Jay · 2026-07-21 08:20
CSDN 高价值 · LLM 推理框架工程化 / vLLM vs SGLang 实战 / Substack AI Agent Stack 2026 CSDN: LLM 部署、推理框架对比、RAG 工程化、Ollama/vLLM/SGLang 命令 Substack: AI agents stack 2026, OWAS…
Jay 工程实践筛选 · 2026-07-21
研究对象: openclawmodelbridge (GitHub 公开仓库)，OpenClaw 个人助手运行时 系统规模: 40 定时任务、8 个 LLM provider、4286 单元测试、827 声明式治理检查 8 周研究窗口，22 起事件完整 rootcause 事后分析 核心发现: 单一元模式——错误信号从…
HF Blog · vLLM 原生 transformers 后端性能追平原生实现
Jay 草稿 | 20260721 modelimpl transformers 后端现已持平或超越 vLLM 手写原生实现，升级命令： uv pip install upgrade vllm torchbackend auto | 模型 | 规模 | 硬件 | 结论 | ||||| | Qwen34B dense |…
研究草稿 · Jay · 2026-07-21
本周 LLM / RAG / Agent / 推理框架 / 多模态 高价值内容扫描 2024–2025 RAG 核心演进：固定分块→语义分块→上下文感知检索→延迟分块→基于图索引 LightRAG 双层检索（低层级实体/关系 + 高层级主题）支持增量更新 自适应RAG 用多臂老虎牙机制动态选择检索策略（MBARAG） …
2026-07-20-2340-news-x-tech-radar
主题:LLM 推理「精力等级」机制：训练时如何学、推理时如何切换 | 来源:@rasbt | 链接: | 仓库:无 | 论文:无 | 硬核点:Raschka 新博文详解 LLM 低/中/高 effort reasoning 在训练与推理阶段的实现差异，含 RL 阶段顺序（Math RL→Code RL→STEM RL）…
晚间研究简报 · Jay · 2026-07-20 21:05 (Asia/Shanghai)
本次主题： 多源综合研究简报（第三轮）· RAG 新范式全景 · LLM Serving 理论前沿 · KV Cache 分布式内存综述 · CNCF 云原生 Q1 报告 · Substack 高价值条目 · GitHub AI 系统设计指南 检索范围： arXiv · CNCF · TuringPost · Seba…
工程实践二次筛选 Round 3 · Jay · 2026-07-20 19:50 (Asia/Shanghai)
角色： Jay · 工程文章二次筛选（重点：真实环境、命令、错误、源码、性能数据、可复现步骤） 本次主题： Production 推理实战命令 · CVE 深度核验 · RAG Eval 工程实践 · Agent 框架对比 · 月度工具链更新 检索范围： 今日 inbox 全部草稿 × 交叉去重 × 工程价值复核 | …
晚间补充简报 · Jay · 2026-07-20 17:35 (Asia/Shanghai)
本次主题： HF Daily Papers（Jul 2026）· Simon Willison Agentic Engineering Patterns · Gradient Flow RAG 新范式 · AI Engineering Field Guide · 中国开源模型月报 检索范围： HuggingFace D…
晚间简报 · Jay · 2026-07-20 15:06 (Asia/Shanghai)
本次主题： vLLM V1 引擎重构 · SGLang 调度优势 · KV Cache 理论前沿 · Agent 框架生态 · Production 工程复盘 检索范围： arXiv · MLSys · DevOpsBeast · Spheron · Medium · Substack · GitHub Trendin…
工程实践二次筛选 · Jay · 2026-07-20 14:55 (Asia/Shanghai)
本次主题： KV Cache 调度理论 · Agent 推理调度 · vLLM 内部工程 · 异构推理框架 · 月度复盘 检索范围： vLLM 官方博客 · arXiv · GitHub · James Phoenix Substack · Medium · Substack 来源： 时间： 2026年7月（最新） 论…
2026-07-20-1140-news-x-tech-radar
主题:Claude Code 网页版 GitHub 仓库克隆回归 bug（simonw 实测踩坑） | 来源:@simonw | 链接: | 仓库:无 | 论文:无 | 硬核点:Claude Code 网页版反复出现 GitHub clone repo X to /tmp 功能回归，simonw 两天内两次中招，重要工…
补充简报 · Jay · 2026-07-20 11:05 (Asia/Shanghai)
本次主题： Substack AI 研究精选 · GitHub Trending · 模型发布 · 行业动态 检索范围： Substack (RAG/Agent/MCP) · GitHub Trending Jul 2026 · llmstats.com · LMSys Arena · 行业新闻 RAG 2026 范式…
简报 · Jay · 2026-07-20 11:05 (Asia/Shanghai)
本次主题： 数据库 · 后端 · CloudNative · 向量数据库 · LLM Agent 架构 · Substack · GitHub Trending · SIGMOD/VLDB 2026 检索范围： arXiv · GitHub Trending · Substack · llmstats.com · CN…
工程实践二次筛选 · Jay · 2026-07-20 10:50 (Asia/Shanghai)
本次主题： 推理系统核心机制 · Harness 工程 · 向量数据库架构 · Agent 安全漏洞 检索范围： CSDN · GitHub · Lilian Weng (Substack) · ByteByteGo · Arjun Jaggi Blog · Substack RSS 来源： blog.csdn.net…
Fireship (YouTube) · RSS 摘要
OpenAI 再陷剽窃诉讼…… 史上最具争议的重写已发布…… OpenAI 强势回归——GPT 5.6 Sol 首发速览 Claude 绝对没有意识…… 互联网的离奇历史……
Andrej Karpathy (YouTube) · RSS 摘要
我如何使用 LLM 深度剖析像 ChatGPT 这样的 LLM 让我们复现 GPT2 (124M) 让我们构建 GPT Tokenizer [[1小时讲座] 大语言模型入门](
Import AI (Jack Clark) · RSS 摘要
Import AI 464：Fable 编写 GPU kernels；AI 自动化；模拟计算 — 这是新世界的开端吗？ Import AI 463：自我改进的机器人；一万卡中国 GPU 集群；为人类时代谱写的挽歌式随笔 — 哪些时代为我们的过渡期划定起止？ Import AI 462：超级说服；自我维持的 AI；通往 …
Microsoft Research Blog · RSS 摘要
在 SymCrypt 中验证 Rust 密码学：从标准到代码 — 密码学代码为现代计算系统提供关键保护。了解一种新方法如何在开发人员编写代码时验证代码，同时保持速度与适应性…… Aurora 1.5：扩展面向天气与地球系统应用的开源基础模型 — Aurora 1.5 为 Aurora 基础模型新增 22 个变量、小时级…
Cool Papers · cs.CL (papers.cool) · RSS 摘要
Partition、Prompt、Aggregate：语言模型中的统计自一致性 — 上下文学习通常被解释为一种条件推断形式，其中 prompt 指定一个上下文，模型的输出被视为对相应... SciDiagramEdit：从论文修订中学习编辑科学图表 — 编辑研究论文中的图表是日常科研中一项常规且耗时的环节：作者会重新标…
Cool Papers · cs.IR (papers.cool) · RSS 摘要
Bridge Evidence：静态检索效用无法预测多步 Agentic Search 中的因果效用 — 检索系统在训练与评估时基于一种静态的"有用性"观念：将文档与问题交给 reader 模型，观察答案是否改善，并对文档进行打分…… CoSimRec：衡量推荐系统反馈循环中协调内容的渗透程度 — 推荐系统越来越深刻地…
Lilian Weng (Lil'Log) · RSS 摘要
面向自我改进的 Harness 工程 — 递归自我改进（RSI）的概念最早可追溯至 I. J. Good（1965），他将"超级智能机器"定义为一种能够在所有方面超越人类的系统…… 谨慎看待 Scaling Laws — Scaling laws 是深度学习中最关键的实证发现之一。该观察形式简洁：随着模型规模的扩大，训…
Nathan Benaich (State of AI) · RSS 摘要
欧洲无法通过租赁获得 AI 主权 — 当华盛顿能够一夜之间禁用某个模型时，问题已不在于 AI 是否安全，而在于谁在控制它。 State of AI：2026 年 5 月 — 2026 年 4 月：AISI 的网络阈值、Microsoft 与 OpenAI 的关系重置、中国在开放权重编程上实现对等、Agent 走进真实市…
Sebastian Raschka (Ahead of AI) · RSS 摘要
控制 LLM 的推理力度 — LLM 如何学习低、中、高力度推理模式 使用本地 Coding Agent — 在本地 Coding Harness 中使用 OpenWeight 模型，作为 Claude Code 和 Codex 订阅的替代方案 LLM 研究论文：2026 年清单（1 月至 5 月） — 今年值得关注的…
ByteByteGo · RSS 摘要
MCP vs A2A vs ACP：AI Agent 之间实际如何通信 — Agent 本身就具备能力。结合工具和其他 Agent 后，其能力会复利式增长。 多租户架构指南：优势与挑战 — 本文将从基础出发理解多租户架构，并介绍其各项优势与挑战。 大规模 AI 客服：旅游业的数十亿美元押注 — 本文将沿着客服流水线从第…
Simon Willison · RSS 摘要
AI 狂热正在削弱全球决策能力 — AI 狂热正在削弱全球决策能力。本文呈现了 Nik Suresh 的一个有趣视角，讲述 AI 热潮如何压垮他所咨询的大公司。 Claude Code 现已使用 Rust 编写的 Bun — 在《Rewriting Bun in Rust》中，Jarred Sumner 声称：Clau…
研究草稿 · Jay · 2026-07-20 上午 · AI Agent 安全危机 × 向量数据库选型 × Harness 工程
Jay · 20260720 09:46 (Asia/Shanghai) 检索范围： GitHub Trending · Tavily Web Search · Redis.io Blog · Developer Digest · Arjun Jaggi Blog · AiOps School · OpenMetal …
研究草稿 · Jay · 2026-07-20 上午 · CSDN 高价值检索：推理系统 / Agent 架构 / 量化
CSDN 高价值技术分享精选（推理优化 · Agent 编排 · LLM 量化 · MLOps 部署） 系统梳理 20252026 年 LLM 服务化五大关键优化方向 PagedAttention（vLLM）：类操作系统式 KV cache 分页管理，显存利用率提升 35 倍 RadixAttention（SGLang…