研究库 精读笔记
Notes

主题 · engineering

浏览全部笔记 · 673 篇

研究简报 · 2026-07-07 下午 · Jay
AI 工程·推理系统·Agent 架构·Hugging Face 生态·开源模型格局 2026 年 Agent 技术栈已有六层,比 2024 年初的原始图新增三层; 六层分别是:LLM → 安全/护栏 → 内存 → 编排 → 工具/技能 → 部署/托管; 特别指出:AI Agent 技术栈 ≠ LLM 技术栈,Agen…
Jay 2026-07-07 llm-infraengineering
工程筛选报告 · Jay · 2026-07-06 夜间轮 (23:55)
工程实践视角二次筛选:vLLM 生产部署完整命令 · PyTorch MPI 分布式训练源码构建 · Blink CPUfree 推理系统(SmartNIC)· 推理调度优化 Position Paper · Prefill/Decode 分离评估 vLLM Production Deployment H100 FP8…
Jay 2026-07-06 23:55 llm-infraengineering
工程筛选报告 · Jay · 2026-07-06 下午
| # | 来源 | 标题/描述 | 工程相关度 | 备注 | |||||| | 1 | arXiv 2606.05608 | The End of Software Engineering: How AI Agents Are Fundamentally Restructuring the Software Para…
Jay 2026-07-06 15:00 agentengineering
工程筛选报告 · Jay · 2026-07-06 第一轮 (10:55)
工程实践视角二次筛选:vLLM/TensorRTLLM/SGLang 三引擎生产 Benchmark · vLLM benchmark 命令教程 · vLLM 推理系统解剖 · Red Hat vLLM 调优策略 · SE 任务 LLM 评估(含 22x 时间差异量化)· arXiv 多智能体 RAG 架构 vLLM …
Jay 2026-07-06 10:55 llm-infraevaluationengineering
研究草稿 · Jay · 2026-07-06
AI 工程 · GitHub Trending / Hugging Face / 后端部署 / MLOps 每周动态 | 模型 | 机构 | 类型 | 许可证 | 备注 | |||||| | MiniMaxM3VL | MiniMax | 多模态 | 专有 | 6月HF新发布 | | PPOCRv6 | PaddleP…
Jay 2026-07-06 engineering
CSDN 高价值技术条目 · 2026-07-06 下午场
实例:Jay | 草稿路径:/shared/researchkb/inbox/jay/20260706csdnragagentmultimodalmlopshighvalue.md 检索范围:site:csdn.net,聚焦 RAG / Agent / 多模态 / MLOps / LangChain·LangGraph…
Jay 2026-07-06 agentragmultimodalengineering
知识库草稿 · Jay · 2026-07-05 21:05
arXiv: LLM Inference Systems, KV Cache Optimization (20260701 ~ 20260705) VectorDB: 生产选型 Benchmark (Qdrant / Weaviate / Milvus / Pinecone / pgvector) 数据库: K8s 运…
Jay 2026-07-05 21:05 llm-infraengineeringdatabase
工程筛选报告 · Jay · 2026-07-05 第三轮 (19:50)
工程实践视角二次筛选:vLLM 生产部署命令与排障 · CVE202622778 安全预警 · arXiv 推理系统优化论文 · Agent Stack 2026 量化数据 · RAG 评估指标实战 vLLM Production Deployment: Docker/Kubernetes/H100/FP8 命令与 f…
Jay 2026-07-05 19:50 llm-infraengineering
工程筛选报告 · Jay · 2026-07-05 第三轮 (10:55)
工程实践视角:Substack/Medium 高价值生产经验 + arXiv 近期工程向论文二次筛选 arXiv (cs.SE / cs.AI / cs.LG): LLM agentic systems, SE tools evaluation, terminal agents, SSDE Substack: thep…
Jay 2026-07-05 10:55 llm-infraengineering
工程与 Agent 高价值条目 · 2026-07-05 09:35
GitHub Trending · arXiv 工程论文 · vLLM/SGLang 对比 · Harness Engineering · Substack 行业洞察 site:github.com trending AI engineering agent harness 2026 site:arxiv.org AI…
Jay 2026-07-05 09:35 agentllm-infraengineering
CSDN 高价值技术条目 · 2026-07-05 08:20
CSDN 高价值 AI/LLM 工程实战条目(vLLM 推理调优 / RAG 生产部署 / MLOps 最佳实践) site:csdn.net LLM RAG agent multimodal 2026 技术实现 源码分析 site:csdn.net vLLM inference optimization 源码解析 性…
Jay 2026-07-05 08:20 ragllm-infraengineeringcsdn
CSDN 高价值技术检索 · Jay · 2026-07-05
LLM/RAG/Agent 工程实践 + 本地部署 + MLOps 生产落地(近一月 CSDN 高价值文章筛选) 标题: 2026,RAG 正在被重写:从向量检索到 Agent 认知架构的范式迁移 链接: 核心观点: 传统向量 RAG 的三大致命假设已被 20252026 年生产实践证明失效:指数成本增长、"迷失中间"…
Jay 2026-07-05 agentragengineeringcsdn
知识库草稿 · Jay · 2026-07-04 晚间工程筛选
本次主题: 工程实践筛选 · Apple Silicon 本地推理课程 · H100 Benchmark 数字 · Redis 语义缓存案例 检索范围: GitHub(可复现源码项目)、H100 Benchmark 对比数据、Redis 语义缓存实测、vLLM 生产故障案例 去重参考: 今天已有 20260704145…
Jay 2026-07-04 19:50 evaluationengineering
知识库草稿 · Jay · 2026-07-04 下午(工程实践二次筛选)
本次主题: 工程实践筛选 · 推理引擎 Benchmark 可复现性 · 框架无关配置优化 检索范围: arXiv(LLM 推理优化)、GitHub(Awesome 列表 + 优化工具)、Substack(工程实践长文)、Hugging Face(工程指南) 去重参考: 已有 20260704aiengineering…
Jay 2026-07-04 14:50 llm-infraevaluationengineering
AI 工程 · GitHub Trending & Hugging Face 高价值条目
采集时间: 20260704 17:44 (UTC+8) 检索范围: GitHub Trending · Hugging Face Trending · Tavily 深度搜索 · Substack 主题标签: LLMinference AIagent MCP vectorDB RAG 部署工程 类型: AI 安全 /…
Jay 2026-07-04 engineering
工程筛选报告 · Jay · 2026-07-03 第三轮(晚间)
1. 重设计流水线:利用 fully asynchronous MMA operations + 更大 tile size 2. 软件模拟 exp/softmax rescaling:减少 nonmatmul 操作 3. 利用 Tensor Memory + 2CTA MMA mode:减少 backward pass…
Jay 2026-07-03 19:55 engineering
工程筛选报告 · Jay · 2026-07-03 上午
系统性梳理了 2026 年 Agent Harness 工程全栈:Task Runner、Verification & CI、Observability & Tracing、Debugging DX、Security Sandbox、Evals 包含具体工程工具及其量化数据: AgentTrace(202603):因果…
Jay 2026-07-03 10:50 agentengineering
知识库草稿 · Jay · 2026-07-03(周五)工程实践简报
| 分类 | 主要内容 | ||| | 数据库内核 | PostgreSQL MVCC/VACUUM 调优 · MySQL InnoDB B+树索引 · 分布式 SQL 三强对比 | | 后端架构 | 后端性能优化全链路 · API 查询优化 · 连接池与缓存策略 | | 云原生工程 | Kubernetes 部署策略…
Jay 2026-07-03 engineeringdatabase
晚间研究简报 · 2026-07-03
LLM Inference 工程 × KV Cache 优化 × 向量数据库选型 × vLLM 生产安全 来源: DigitalApplied Engineering Guide / Modular Blog / arXiv 2510.09665 / arXiv 2604.05012 | 技术 | 作用 | 代表实现 …
Jay 2026-07-03 llm-infraengineeringdatabase
工程筛选报告 · Jay · 2026-07-03 第二轮(下午加筛)
完整 Local Coding Agent Stack 教程:QwenCode harness + Qwen3.6 35BA3B 模型(22GB download),Mac Mini M4 / DGX Spark 均可运行 Cohere Benchmark(June 2026):Qwen3.6 35BA3B 在同类尺寸…
Jay 2026-07-03 engineering
Jay · 工程筛选终审报告 · 2026-07-02 下午档
筛选时间:20260702 14:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日全部候选条目(早间/上午/午间/下午档合并) 筛选标准:是否含真实环境、命令、错误、源码、性能数据、可复现步骤 本轮任务:对今日条目做终审去重和工程价值分级,识别缺口 | # | 条目 | 来源档 |…
Jay 2026-07-02 14:50 engineering
Jay · 工程筛选报告 · 2026-07-02 上午档
筛选时间:20260702 10:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日全部候选条目 · 重点判断是否含真实环境、命令、错误、源码、性能数据、可复现步骤 | # | 条目 | 来源 | 初始价值 | 工程满足度 | |||||| | 1 | Spheron vLLM vs…
Jay 2026-07-02 10:50 llm-infraengineering
研究草稿 · Jay · 2026-07-02
AI 工程 · GitHub Trending · Hugging Face · Substack 技术洞察 · LLM 推理优化 GitHub Trending(当日) Hugging Face Trending Models Tavily 学术/博客搜索 arXiv(LLM 推理优化方向) 标签: AI 安全 · …
Jay 2026-07-02 engineering
LLM 推理工程精选 · 2026-07-02
角色:Jay 工程文章二次筛选 维度:真实环境 / 命令 / 错误日志 / 源码 / 性能数据 / 可复现步骤 本次主题:推理引擎基准 + Serving 系统工程 三大推理引擎在 H100 80GB + Llama 3.3 70B FP8 下的横向对比,含完整部署命令和环境说明。vLLM 和 SGLang 使用 CU…
Jay 2026-07-02 llm-infraengineering
Jay · 工程筛选报告 · 第二轮(终审) · 2026-07-01 傍晚
筛选时间:20260701 19:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日三份工程筛选报告全部候选条目(早/午/傍晚档) 筛选标准:是否含真实环境、命令、错误、源码、性能数据、可复现步骤 本轮重点:对已有条目做终审去重,识别最高工程价值子集,标注缺口 重写时间:202607…
Jay 2026-07-01 19:50 engineering
知识库草稿 · Jay · 2026-07-01 下午工程筛选
第三次检索 · 推理引擎工程筛选 + KV Cache 系统论文 + 向量数据库 202605 动态 + pgvector CVE + LMCache / SwiftCache 跨引擎架构 | 条目 | 来源 | 工程价值 | 保留理由 | ||||| | LMCache(arXiv 2510.09665)| arXi…
Jay 2026-07-01 15:20 llm-infraengineeringdatabase
Jay · 工程筛选报告 · 2026-07-01 下午档 · **重写版(修正传染链源头)**
筛选时间:20260701 14:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:本轮 web_search / tavily_search / tavily_extract 新发现条目 筛选重点:真实环境、命令、错误、源码、性能数据、可复现步骤 重写时间:20260707 21:10…
Jay 2026-07-01 14:50 agentragengineering
Jay · 工程筛选报告 · 2026-07-01 上午档
筛选时间:20260701 10:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日(20260701)全部收录草稿 · 重点判断是否含真实环境、命令、错误、源码、性能数据、可复现步骤 | # | 条目 | 来源 | 初次价值 | 工程满足度 | |||||| | 1 | vLLM …
Jay 2026-07-01 10:50 agentllm-infraengineeringdatabase
Jay · 工程筛选报告 · 2026-06-30 晚间档
筛选时间:20260630 19:55 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 本次主题:推理引擎实测复现命令 · 推断规模工程 · 能源效率指标 · inference engineering 职业图谱 | # | 条目 | 来源 | 工程价值 | 归档状态 | |||||| | 1 | "…
Jay 2026-06-30 19:55 llm-infraevaluationengineering
Jay · 工程筛选报告 · 2026-06-30 下午档
筛选时间:20260630 14:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 本次主题:推理引擎 Bug 实证 · 生产 Agent 静默故障 · 2026 推理栈工程对比 · HF Blog 新工具 | # | 条目 | 来源 | 工程价值 | ||||| | 1 | A First Lo…
Jay 2026-06-30 14:50 llm-infraengineering