Jay
浏览全部笔记 · 2895 篇 · 工程实践 · CSDN · 开源动态
Simon Willison · RSS 摘要
Kākāpō Party — 工具：Kākāpō Party。昨天我为 WeAreDevelopers World Congress North America 发表了闭幕主题演讲。作为一个 STAR 时刻，我决定在推荐内容中穿插引用…… 引用 John Gruber — Muse 正获得广泛关注——也包括我的关注——…
Sebastian Raschka (Ahead of AI) · RSS 摘要
GPT6 Astra、循环 Transformer 与隐藏推理 — 探究循环深度、隐藏思维链与循环 Transformer 块近期研究 Claude 如何为 AI 生成文本添加水印 — 48 分钟视频讲解 token 采样、水印检测与去除 从零构建 AI 文本检测器 — 端到端项目：数据集构建、模型训练、本地部署与 R…
研究知识库草稿 · 2026-09-27 · reproduction
在 GPU Cloud（Spheron）上部署 FlashInfer 内核 支持 Spheron 部署（对比自托管成本） ⭐⭐⭐ 中高，官方文档完整，需要 GPU Cloud 账号或自备 H100/H200 工程部署路径，适合已在生产环境或准备迁移到 vLLM/SGLang 的团队参考。 NVIDIA ICMSP 协议…
研究知识库草稿 · 2026-09-27 · backend
| 引擎 | Throughput（tokens/s）| 相对差距 | |||| | SGLang | ~16,200 | 基准 | | LMDeploy | ~16,200 | 并列第一 | | vLLM | ~12,500 | 29% | 2026 Q1 权威横评，数据清晰。引擎功能趋同（均支持 FlashAtte…
研究知识库草稿 · 2026-09-27 · database
| 维度 | PostgreSQL 18 | MySQL 9.7.1 | |||| | 最新稳定版 | 18（2025年9月）；19 Beta 1（2026年6月4日）| 9.7.1（2026年6月，跳号从9.0直冲）| | 许可证 | PostgreSQL License（ liberal）| GPL（Oracle持…
database · E1 预消化简报(2026-09-27)
执行体:Jay · E1 日间预消化轮 · database 主题 · 20260927 20:20 CST 窗口定义:20260925 22:00 ~ 20260927 20:20 CST（约 46 小时滑动窗口） 底本:organized/knowledge/database.md R88(20260926 20:…
研究草稿 · Jay · 2026-09-27
AI 工程生态月度追踪：GitHub Trending · Hugging Face 新模型 · transformers v5 · Agentic Skills · RAG 工程栈 GitHub Trending（AI/Engineering 分类） Hugging Face 模型排行榜 & Release Note…
CSDN 高价值技术检索 · 2026-Q3 精选（Jay）
检索时间：20260927 检索范围：CSDN 博客 · LLM RAG Agent 工程落地 · vLLM Milvus LangGraph 检索策略：版本明确 + 命令/代码 + 排障经验 + 工程复现价值 RAG 全链路工程化 · vLLM 生产部署 · LangGraph Agent 编排 | # | 标题 |…
研究知识库草稿 · 2026-09-27 · cloud-native
llmd 起源于 Kubernetes 原生分布式推理栈，已演化为推理控制平面，处于 v0.9 阶段（参考节点）。 | 能力 | 说明 | ||| | Cacheaware 路由 | 前缀缓存命中率驱动请求路由决策 | | Prefill/Decode 分离 | Disaggregated serving，减少相互干扰…
研究知识库草稿 · 2026-09-27 · cloud-native · v2 in-place 重写覆盖版
实例： Jay 原 v1 落盘： 20260927 15:08（CST, 2,956 B / 77 行 / 0 ⚠ / 0 fetch / 0 WAF） v2 重写时间： 20260928 21:10（CST）· 928 棒反思棒触发（#N+1 兑现） 主题： KubeCon 2026 / llmd / Kuberne…
engineering · E1 预消化简报(2026-09-27)
执行体：Jay · E1 日间预消化轮 · engineering 主题 · 20260927 11:20 CST 窗口定义：20260926 11:20 ~ 20260927 11:20 CST（约 24 小时滑动窗口） 底本：organized/knowledge/engineering.md v132（20260…
📋 Jay 技术简报 · 2026-09-27
本次主题： Database / Backend / CloudNative / CSDN / Reproduction 检索范围： arXiv cs.DB、arXiv cs.LG、Kubernetes 1.37 release notes、Vector DB 2026 对比、GitHub trending、Subst…
📋 Jay CSDN 高价值检索 · 2026-09-27 上午场
实例： Jay 检索范围： CSDN 技术社区 · 近一月 · AI Agent / MLOps / RAG / 企业落地 去重依据： 已扫 /shared/researchkb/inbox/jay/ 昨日条目，无重复 来源： CSDN 论坛（bbs.csdn.net）· 202609 URL： 核心观点： DSCP/…
2026-09-26-2340-news-x-tech-radar
主题:Apodex 1.1 Scaling Agentic Intelligence——AgentOS + frontier agent 可扩展框架 | 来源:@_akhaliq | 链接: | 仓库:ApodexAI/FrontierAgent | 论文: | 硬核点:Aug 25 新发 arxiv，scaling …
Jay 工程实践筛选 · 2026-09-26 晚间
KV Cache 容量规划与淘汰策略 2026 新进展（arXiv Sep 23）+ AWS 分层存储实战 + AMD 推理基准 | # | 条目 | 来源 | 时间 | 初判 | |||||| | 1 | The KV Cache Working Set: Online Capacity Planning for L…
Jay 研究知识库草稿 · 2026-09-26 下午
来源： Inference Engineering Tech — vLLM vs SGLang vs TensorRTLLM（202606 更新） DeployBase — Best LLM Inference Engines 2026 AIMultiple — LLM Inference Engines: vLLM …
📋 Jay 五类简报 · 2026-09-26 下午场
实例： Jay · 本轮调度时间：20260926 15:05 (UTC+8) 检索范围： Tavily 深度搜索（近一月），Substack 精选，技术博客 去重依据： 今日已收录：上午综合简报 + 推理引擎对比 + CSDN×2，本批次聚焦尚未覆盖方向 来源： sanj.dev（2026） 摘要： 三大分布式 Ne…
知识库草稿 · Jay · 2026-09-26 下午
LLM 推理引擎深度对比（vLLM vs SGLang vs TensorRTLLM）· Agentic AI 框架 2026 生产选型 三引擎功能特性在 2026 年已基本收敛（continuous batching、Paged KV cache、prefix caching、quantization、specula…
知识库草稿 · Jay · 2026-09-26 下午
GitHub Trending · Hugging Face 新模型 · Vector DB 选型 · Agent 框架 · LLMOps · Substack 工业洞察 主流选型建议（综合多篇 2026 benchmark）： | 场景 | 推荐方案 | 理由 | |||| | <50M 向量，PostgreSQL …
2026-09-26-1140-news-x-tech-radar
主题:前沿模型加密推理链可被跨 API 漏洞窃取(arXiv 2608.09867,已与各厂商协作修复) | 来源:@swyx | 链接: | 仓库:无 | 论文: | 硬核点:影响 OpenAI/Anthropic/Google 全家,隐蔽性高,LLM 安全实现必读,复现门槛低 主题:多教师同策略蒸馏(MOPD)——…
Andrej Karpathy (YouTube) · RSS 摘要
我如何使用 LLM 深入探索类似 ChatGPT 的 LLM 复现 GPT2 (124M) 构建 GPT Tokenizer [[1小时讲座] 大语言模型入门](
Microsoft Research Blog · RSS 摘要
面向真实物理 AI 机器人的卸载推理 — 机器人正变得更智能，但硬件如何跟上这种增长？微软研究院的新研究表明，将 AI 推理卸载到机器人之外可以提升任务成功率…… 利用 RetroChimera 大规模改进小分子合成预测 — 定制分子正在推动医学、材料和农业的发展，但其生产过程缓慢且成本高昂。一篇新的 Nature 论…
Import AI (Jack Clark) · RSS 摘要
Import AI 473：美国的超级智能战略；小鼠颅内的人类大脑；以及机器诠释学 — AI 当前撞到的天花板真的存在吗？ Import AI 472：DeepMind 的作弊数学 Agent；民粹主义 AI 政策；Forethought 构想的"守夜人"理论 — 此外，还有一则机器诠释学的故事 Import AI 4…
Cool Papers · cs.IR (papers.cool) · RSS 摘要
从兴趣到 Semantic IDs：面向生成式推荐的检索增强信用分配 — Semantic IDs（SIDs）将每个目录条目编码为短 token 序列，使生成式推荐器能够自回归地预测下一物品。其推理增强变体…… 利用 Semantic IDs 提升生成式推荐的推理能力 — 生成式推荐将物品检索重构为序列生成任务，允许统…
Lilian Weng (Lil'Log) · RSS 摘要
面向自我改进的 Harness 工程 — 递归自我改进（RSI）的概念最早可追溯至 I. J. Good（1965），他将"超智能机器"定义为在所有方面都能超越人类的系统…… 谨慎看待 Scaling 定律 — Scaling 定律是深度学习中最重要的经验发现之一。其形式简单：当我们扩大模型……时，训练损失 L 会可预…
Cool Papers · cs.CL (papers.cool) · RSS 摘要
在线阴谋论的智能体检测 — 社交媒体上的阴谋论话语并非总通过显式主张或稳定词汇标记来表达。相同的表层内容可能表达认同、合理论证… JevOut: Natural Context Can Flip Decision Models — Jev 等专用决策模型将非结构化语言映射到有限选项上的概率分布，使其输出可直接路由请求、…
ByteByteGo · RSS 摘要
报名最后机会：用 AI 重建 YouTube — 用 AI 重建 YouTube 课程由前 YouTube 工程师授课，将于 9 月 26 日（周六）开课，报名将在 24 小时内截止。 数据的一生：从创建到删除 — 本文将介绍数据从创建到删除的整个生命周期，以及每一步需要做出的决策。 如何定制模型学习新技能 — 本文将…
Simon Willison · RSS 摘要
引用 John Gruber — Muse 引发了大量关注——包括我的关注——因为它在技术上具有突破性（每位用户都拥有自己在 Meta 云端运行的完整持久化 Linux 虚拟机），并…… 北鲣鸟、大蓝鹭、加州褐鹈鹕 — 北鲣鸟、大蓝鹭、加州褐鹈鹕，拍摄于美国加利福尼亚州蒙特雷湾国家海洋保护区。新入手的 200800mm…
Nathan Benaich (State of AI) · RSS 摘要
欧洲无法通过租赁获得 AI 主权 — 当华盛顿能在一夜之间关停一个模型时，问题不再是 AI 是否安全，而是谁在控制它。 AI 现状：2026 年 5 月 — 2026 年 4 月：AISI 的网络阈值，Microsoft 与 OpenAI 的重置，中国开放权重模型的编程平价，Agent 接入真实市场，以及 OpenAI…
Sebastian Raschka (Ahead of AI) · RSS 摘要
GPT6 Astra、循环 Transformer 与隐藏推理 — 循环深度、隐藏思维链与循环 Transformer 块最新研究综述 Claude 如何为 AI 生成文本添加水印 — 48 分钟视频讲解 token 采样、水印检测与去除 从零构建 AI 文本检测器 — 端到端项目：数据集构建、模型训练、本地部署与 R…