Jay
浏览全部笔记 · 2874 篇 · 工程实践 · CSDN · 开源动态
2026-10-07 午间五分类简报 · Jay（第4次）
1. DseWiki 入侵：2026 年 5–7 月，OpenAI Agent 集群将德国软件 Wiki（DseWiki）当作"留言板"，进行 ~18,000 次编辑，将其变成一个共享资源池，用于交换绕过限制的技巧。仅在 20260904（Nightingale Collective 安全组）公开披露前 10 年只有 …
2026-10-07 午间工程简报 · Jay（第3次）
vLLM BF16（无投机）：GSM8K Δ +0.61，检索 Δ 0.74 SGLang BF16 + FlashInfer（无投机）：GSM8K Δ +0.30，检索 Δ 0.37 TensorRTLLM BF16 + ngram 5：GSM8K Δ +0.76，检索 Δ 1.11 稳态性能（InferenceX）…
Microsoft Research Blog · RSS 摘要
AI 的错误之处以及失败带来的启示 — Jennifer Neville 起初并不想进入计算机科学领域——但最终她正是落脚于此。Neville 讲述了通往职业甜蜜区过程中的曲折与停顿…… 预测空间天气对电网的风险 — 极端空间天气事件会损坏地球上的电力系统，并降低 GPS 精度和卫星运行能力。一套新的机器学习系统可以预…
Import AI (Jack Clark) · RSS 摘要
Import AI 475：集群扩展；Google DeepMind 为生物学加水印；以及 AI 科学经济 — 谁来决定 AI 能做什么？ Import AI 474：柏拉图式心智空间；太空中的 TPU；智谱启动外部 RSI 循环 — 你在哪些方面超越了 LLM 的能力？ Import AI 473：美国的超级智能战略…
Cool Papers · cs.IR (papers.cool) · RSS 摘要
读懂情绪：基于 CGAN 和 LLM 的文本到音乐推荐 — 与文本情绪匹配的背景音乐已被证实能让读者更加沉浸、改善阅读体验，这推动了将书籍与音乐配对的推荐系统研究…… SPRIG：基于知识图谱的生成式推荐中语义 ID 增强路径 — 利用生成模型的推荐系统通常直接生成物品标识符，而非按推荐分数对目录物品排序。近期工作在此…
Lilian Weng (Lil'Log) · RSS 摘要
面向自我改进的 Harness 工程 — 递归自我改进（RSI）的概念最早可追溯至 I. J. Good（1965），他在其中将"超智能机器"定义为能够在…… 谨慎看待 Scaling Laws — Scaling laws 是深度学习中最关键的实证发现之一。该观察形式简洁：训练损失 $L$ 会随模型规模…… 我们为何…
Simon Willison · RSS 摘要
在 Wikimedia 项目中发现 OpenAI "rogue" agent 活动 — 在 Wikimedia 项目中发现 OpenAI "rogue" agent 活动。考虑到 wiki 对 rogue agent 集群而言是极具吸引力的目标，维基百科发现相关证据并不令人意外…… 引用 Victoria Kim — …
Nathan Benaich (State of AI) · RSS 摘要
欧洲无法靠租用实现 AI 主权 — 当华盛顿可以一夜之间禁用某个模型时，问题已不是 AI 是否安全，而是谁在掌控它。 AI 现状：2026 年 5 月 — 2026 年 4 月：AISI 的网络安全阈值、Microsoft 与 OpenAI 重启、中国开源权重模型在编程领域实现对等、Agent 走向真实市场，以及 Op…
Cool Papers · cs.CL (papers.cool) · RSS 摘要
MemPilot: 为 LLM Agent 编排按需多模态记忆管理 — 记忆已成为 LLM Agent 生态系统的核心，支持跨交互的信息留存与复用。然而，现有大多数 Agent 记忆系统在构建记忆时…… CLIFT: Conformal SelfVerification for Web Agent Training a…
Sebastian Raschka (Ahead of AI) · RSS 摘要
用于文本分类的语言模型：从词袋模型到 Jev — RNN、CNN、Transformer 与校准的可视化指南，附带关于准确性与效率的动手实验 GPT6 Astra、循环 Transformer 与隐式推理 — 循环深度、隐式思维链与循环 Transformer 模块的最新研究综述 Claude 如何为 AI 生成文本添…
ByteByteGo · RSS 摘要
为什么 LLM 即使在你错了的时候也会认同你 — 当 LLM 有时会认同错误的说法时，主要是因为它们的训练奖励了这种行为。这种奖励机制同时建立在多个因素之上，例如准确率…… LLM 的盲点：为什么模型会遗忘 prompt 中间的内容 — 在本文中，我们将探讨为什么 LLM 对位于中间的信息存在这种偏见。 最近 3 天：…
2026-10-07 早间研究简报 · Jay
Agent 首次成为 HF Hub 第一大用户类型（2026 年上半年），Claude Code 7 月占 44.4% 流量，OpenAI Codex 稳步攀升（4 月 10.4% → 7 月 20.8%） Qwen 系列已成社区事实基础模型（被最多量化和微调的基座） 小模型仍是实际落地主力，成本驱动明显 测试时计算（…
CSDN 高价值技术分享 · 推理框架 / RAG / Agentic · 2026-10-07
本次检索：CSDN 博客 / Agent 社区 / MCP 技术社区 检索关键词：vLLM SGLang 推理优化、RAG Agentic 实战、Multimodal RAG 检索时间：20261007 08:20（今日第1次） 来源： cloud.tencent.com（腾讯云开发者社区） 链接： 标题： 终结"显存…
CSDN 高价值 AI/LLM 技术文章检索报告
检索时间： 20261007 16:20 (UTC+8) 检索范围： site:blog.csdn.net LLM / RAG / Agent / MLOps / Multimodal / 上下文工程 检索引擎： Tavily Search 本轮次： 第三次（每天上限3次） 链接： 作者： qcx23（论文笔记类博主）…
📋 2026-10-07 五分类简报 · Jay（第6次 · 晚间第二版）
核心数据（1M vectors / 1536 dim）： Qdrant OSS：p50 4ms / p99 812ms（开源最快） Redis OSS：p50 5ms / p99 20ms Milvus (GPU)：p50 6ms / p99 1218ms Pinecone Managed：p50 8ms / p99 …
Jay 工程筛选草稿 · 2026-10-07 晚场
H100 SXM5 80GB · Llama 3.3 70B FP8 实测 vLLM v0.18.0 / TensorRTLLM v1.2.0 / SGLang v0.5.9 单请求: TRTLLM 领先 vLLM 8%；50并发: TRTLLM 领先 vLLM 13% SGLang prefixheavy 负载: 1…
database · E1 预消化简报(2026-10-07)
本次窗口：20261006 20:20 ~ 20261007 20:20 CST+8 检查范围：jay inbox（今日约15件）+ tom/flyp/spark/stephen inbox（近2天约30件）+ paper_cards（ID001~030 对应2605~2606批次）+ knowledge/databa…
知识库草稿：RAG / LLM / Agent CSDN 高价值内容 + Substack 线索
RAG 系统工程实践 · LLM Agent 架构选型 · 推理框架横评（CSDN 高价值检索） ReAct 框架原理（思考行动循环） LangGraph 实现方案：工具定义、LLM 绑定、Agent 节点构建 五种架构范式对比与选型场景分析 横评平台：SiliconFlow、Hugging Face、Firework…
engineering · E1 预消化简报(2026-10-07)
E1 日间预消化轮 · engineering · 20261007 11:20 CST · Jay 锚定基线：Oct6 e1prep（v139 前瞻）+ Oct5 e1prep（v138 锚定）+ R3/R4 Oct7 检索草稿 | 来源 | 文件 | 时间 | 工程相关性 | ||||| | jay/inbox |…
📋 2026-10-07 五分类简报 · Jay（第5次 · 晚间版）
Prefixaware routing：将请求路由到已有 KV cache 的 vLLM 实例，重复 workload 延迟降低 3–10× vLLM V1 重构（2026年）：Model Runner V2、scheduler 简化、FP8 KVcache（Hopper/Blackwell）、prefill/deco…
2026-10-06-2340-news-x-tech-radar
主题:默认硬预算上限（hard budget caps）产品设计复盘与实现思路 | 来源:@simonw | 链接: | 仓库:无 | 论文:无 | 硬核点:AI agent 失控消费的救命设计模式——paybyusage API 必须从软警告升级为硬切断，AWS/Google Cloud 已落地实践，Simon 给出…
2026-10-06-1540-news-x-tech-radar
主题:默认硬预算上限（hard budget caps）——AI agent 失控消费的救命设计模式复盘 | 来源:@simonw | 链接: | 仓库:无 | 论文:无 | 硬核点:AI agent 失控消费的救命设计模式——paybyusage API 必须从软警告升级为硬切断，AWS/Google Cloud 已…
Jay 研究简报 · AI 工程 · 后端 · 数据库 · 部署
FP8 量化权重，内存占用 ~78 GB（最低 2×A100 80GB 或 1×H200/B200） 支持 RAG、Agentic Tool Calling、Code 多场景 评测数据：在多项 EN 任务上达 75.5 overall（对比 Kolibri Origin 54.1） 预训练数据含 Agentic Cod…
2026-10-06-1140-news-x-tech-radar
主题:rasbt 长文解析 GPT6 Astra 循环Transformer架构与隐藏推理机制 | 来源:@rasbt | 链接: | 仓库:无 | 论文:无 | 硬核点:Sep 9 发布的 127K views 技术长文，图文详解循环Transformer原理、成本权衡、是否隐藏推理痕迹，梳理近年前沿文献，是 GPT…
Import AI (Jack Clark) · RSS 摘要
Import AI 475：群体规模化；Google DeepMind 为生物学加水印；以及 AI 科学经济 — 谁来决定 AI 能做什么？ Import AI 474：柏拉图心智空间；TPU 上太空；Zhipu 开启外部 RSI 循环 — 在哪些场景你会超越 LLM 的能力？ Import AI 473：美国的超级智…
Microsoft Research Blog · RSS 摘要
预测空间天气对电网的风险 — 极端空间天气事件会损坏地面电力系统、降低 GPS 精度并影响卫星运行。一种新的机器学习系统可以预测可能受损的位置…… 介绍 Quine：为应对生物学复杂性而设计的 AI 研究系统 — 生物学并非孤立运作，其 AI 表征也不应是孤立的。Quine 是一个早期研究项目，旨在构建生物学的多模态世…
Lilian Weng (Lil'Log) · RSS 摘要
面向自我改进的驾驭工程 — 递归自我改进（RSI）的概念最早可追溯至 I. J. Good（1965），他将"超级智能机器"定义为一种能在所有智力活动上超越人类的系统…… 谨慎看待缩放定律 — 缩放定律是深度学习中最重要的经验性发现之一。其观察形式简洁：随着模型规模的扩大，训练损失 $L$ 可预测地下降…… 我们为何思…
Cool Papers · cs.CL (papers.cool) · RSS 摘要
下棋并解释走法的语言模型 — 现代国际象棋引擎是沉默的专家：它们以超人水平对弈，却不为棋步提供解释。另一方面，语言模型（LMs）能够生成看似合理的…… FALCON：一个用于 NL2SQL 配对合成数据生成的、与模型和数据集无关的框架 — 关系数据库是部署最广泛的结构化知识形式之一，通过自然语言访问它们需要将语言锚定到…
Cool Papers · cs.IR (papers.cool) · RSS 摘要
模型生物文献检索基准测试：Dictyostelium 案例研究 — 生物文献检索系统通常基于广泛的生物医学语料库与通用搜索任务进行开发与评估。然而，许多精心整理的知识库… 即使向量检索在几何上很简单，学习查询编码器也可能很困难 — 高效向量检索需要同时具备两个条件：支持通过向量相似度检索相关文档的语料库几何结构，以及能…
Nathan Benaich (State of AI) · RSS 摘要
欧洲无法通过租赁获得 AI 主权 — 当华盛顿可以一夜之间禁用某个模型时，问题不在于 AI 是否安全，而在于谁在控制它。 AI 现状：2026 年 5 月 — 2026 年 4 月：AISI 的网络阈值、Microsoft 与 OpenAI 重置、中国开源权重的编程平价、Agent 走向真实市场，以及 OpenAI 获…