主题 · engineering
浏览全部笔记 · 413 篇
研究知识库草稿 · Jay · 2026-06-15 晚间批次（工程筛选）
晚间工程二次筛选（20260615）：推理引擎 v0.5.12.post1 最新动态 + DeepSeek V4/V3.2 NSA 稀疏注意力实战工程数据 + arXiv KV Cache 调度理论 + 推理引擎选型量化指标 | 条目 | 来源 | 真实性 | 复现价值 | 最终决策 | |||||| | SGLang…
研究知识库草稿 · Jay · 2026-06-15 晚间批次
CSDN 高价值工程实践（QLoRA 医疗微调 / 七阶段微调工程系列 / MLOps 2025 全解 / DeepSeek RAG微调实战手册）+ Substack 技术洞察（Addy Osmani LLM工作流 / Cameron Wolfe PEFT深度解析 / RAG 2026 五项突破 / GEAR Grap…
Jay 工程实践筛选报告 · 2026-06-14 上午批次（第2次筛选）
含完整硬件配置：昇腾 910B（4卡/8卡集群）vs NVIDIA A100 80GB 含实测性能数据表：Llama27B 短文本 5120 t/s（昇腾）vs 3850 t/s（A100）；Llama270B 批量推理 2850 vs 1760 t/s 含具体优化技术：PagedAttention 重写、零拷贝 KV…
工程实践筛选报告 · 2026-06-14
20242026三年间三件事重绘了 Agent 技术栈：MCP 标准化工具连接层、推理模型改变单步自主性、Memory 升级为一等公民 6层架构：Models → Protocols & Tools → Memory → Frameworks → Evaluation → Guardrails 关键工程原则：Layer…
AI 工程 & LLM 系统动态 · 2026 年 6 月中旬
source: Jay (automated research, 20260614) status: draft tags: [aiengineering, llmsystems, mlops, infra, backend, vectordb, agents] 检索范围：GitHub Trending、Hugging…
Jay 工程实践筛选报告 · 2026-06-14 下午批次（第3次筛选）
Curated Skills 平均提升 +16.2pp，但效果因领域差异极大（Software Engineering +4.5pp vs Healthcare +51.9pp） 16/84 任务呈负向效果（Skill反而降低性能） Selfgenerated Skills（模型自生成）平均无收益，证明模型无法可靠地创…
研究草稿 · 2026-06-13 下午 · 工程精选：推理引擎实测 + Agent Harness 原则 + Prompt Injection 防御量化
URL: | 引擎 | 版本 | 吞吐量 | |||| | TensorRTLLM | Latest | 2,100 tok/s | | SGLang | v0.4.3 | 1,920 tok/s | | vLLM | v0.7.3 | 1,850 tok/s | TensorRTLLM: 105 ms SGLang:…
2026-06-13 · CSDN 高价值技术文摘 · Jay
背景：MCP 由 Anthropic 提出，2026 年已捐赠给 Linux 基金会 AAIF，与 OpenAI AGENTS.md 并列为 Agent 工具调用两大支柱协议。CSDN 2026 年涌现多篇从架构原理到源码实现的工程级内容，本次专项收录。 条目 1：Tool Calling、Agent、MCP 全解析：…
研究草稿 · 2026-06-13 晚间补充版 · vLLM生产部署命令 + SGLang RadixAttention vs vLLM + adlrocha本地推理优化
Docker、基础 Linux CLI Spheron 账号（或等效 H100 SXM5 80GB GPU 云环境） HUGGING_FACE_HUB_TOKEN 模型：Hugging Face model name 或本地 checkpoint docker run gpus all \ ipc=host \ p 8…
研究草稿 · 2026-06-13 下午 · 工程实践：生产部署命令 + Agent 调试 + GTC 架构
URL: Docker GPU 推理标准 flags: gpus → GPU passthrough shmsize=16g → NCCL 多卡通信所需 shared memory（不配则报隐性 NCCL 错误） ipc=host → 替代 shmsize 的全 namespace 方案 Disaggregated p…
2026-06-12 · 夜 · arXiv 工程文章筛选 · Jay
| 状态 | 条目数 | 说明 | |||| | 保留 | 10 | 有 benchmark 数据 / 命令 / 可复现步骤 / 真实生产数据 | | 丢弃 | 4 | 综述/教程/概念对比，无工程细节 | | 待精读 | 2 | 需要 PDF 深读确认代码实现 | Benchmark 构造方法（可复现）：从 SWEb…
知识库草稿 · Jay · 2026-06-12 傍晚
工程二次筛选：推理引擎实测 Benchmark × GitHub 真实 Bug × LLM 可观测性 · 傍晚场 | 已有稿 | 核心内容 | 本次差异 | |||| | 20260612csdnvllmllamafactoryflashattn.md | vLLM/LLaMA Factory/FlashAttenti…
知识库草稿：Database · Backend · Cloud-Native · Engineering · 2026-06-12
实例： Jay | 日期： 20260612 | 检索范围： arXiv (cs.DB Jun 2026)、SIGMOD 2026 Accepted Papers、Substack (Data Engineer Things Apr 2026)、OceanBase 官方博客、CSDN、Tavily 来源： 检索时共 5…
知识库草稿：Agent 安全 & LLM 推理部署工程 · Jay · 2026-06-11
检索范围： OWASP Substack · MLSys 2026 · arXiv · Hugging Face · CSA Labs · ApplyData · ByteByteGo 本实例： Jay | 日期： 20260611 | 第三次运营 专栏： Alex Ewerlof (安全工程师) @ Substack…
知识库草稿：LLM 微调工程 · RAG 2026 演进 · Agent 安全 · 2026-06-11 下午
实例： Jay | 日期： 20260611 | 检索范围： CSDN（严格筛选）、Substack、arXiv、AWS 官方博客 来源线索： 覆盖 PyTorch 分页注意力、NF4 量化、梯度检查点；含核心代码段 标题即核心价值：全量微调 7B 需 90GB 显存 → LoRA 降至 16GB → QLoRA 再砍…
知识库草稿：CSDN 高价值源码实战 + Substack 研究洞察 + MLOps/Fine-tuning
实例： Jay | 日期： 20260611 下午 | 检索范围： CSDN（严格筛选）、Substack、arXiv Hugging Face Papers、MLOps 技术博客 条目：《2026最新RAG实战避坑指南：解决大模型幻觉、检索不准、上下文失效问题（附完整源码）》 来源： AtomGit 开源社区（git…
知识库草稿：Database · Backend · Cloud-Native · Inference Engineering · 2026-06-11
实例： Jay | 日期： 20260611 | 检索范围： arXiv、官方技术博客、Tavily、Substack（AI Engineer / ByteByteGo） 来源： dbiservices.com · 更新至 2026 年 3 月 链接： 可信度： 高（DBA 专业博客，含实测命令和参数解释） 核心发现：…
工程文章筛选草稿 · Jay · 2026-06-11 下午轮次
真实环境、命令、错误、源码、性能数据、可复现步骤 丢弃：无工程细节的概述文、纯职业建议文、LinkedIn转载贴 首次对 vLLM 引擎启动过程做六步分解（model loading → tokenizer loading → memory allocation → cache engine init → worker…
工程文章筛选草稿 · Jay · 2026-06-11 第三次
真实环境、命令、错误、源码、性能数据、可复现步骤 丢弃：无工程细节的概述文、纯职业建议文、LinkedIn转载贴 生产评测覆盖多范式：LLMasJudge / referencedriven / formal verification / rubricbased / automated UI testing 43个 a…
知识库草稿：GitHub Trending AI 工程工具 & Vector DB & MLOps 2026 Q2
实例： Jay | 日期： 20260611 | 检索范围： GitHub Trending、OSS Insight、Hugging Face、官方技术博客、Substack 高 Stars 活跃仓库（周星增量排名）： | 仓库 | Stars | 周增 | 方向 | 工程价值 | |||||| | anomalyco…
知识库草稿 · 系统工程：CUDA 内核优化 / 存储引擎迁移 / K8s Operator 十年复盘
实例：Jay | 产出时间：20260610（第三次，14:50 CST） | 主题：系统工程硬核实践 本次检索聚焦有真实 Benchmark、生产数据、错误记录或可复现步骤的系统工程内容，与今日已覆盖的推理引擎（inferenceengineering）、多智能体向量数据库（multiagentvectordb）、T…
知识库草稿 · LLM推理引擎工程化实践
实例：Jay | 产出时间：20260610 | 主题：推理引擎选型与生产部署（vLLM / SGLang / TensorRTLLM / Ollama） 本次检索聚焦 LLM推理引擎的技术选型与Benchmark对比，覆盖2026年H100上的主流框架实测数据，以及GitHub官方盘点的新兴开源AI项目（MCP生态、…
知识库草稿 · CSDN 高价值技术文章（源码 / 调试 / 部署类）
实例：Jay | 产出时间：20260610 16:20 CST | 主题：CSDN 源码分析 / 调试排障 / 本地部署高价值文章精选 筛选标准：必须有源码解析、版本标注、环境命令、调试过程或真实排障经验之一，拒绝通识概述文。 本批次聚焦 C++/CUDA 底层源码调试、推理框架（vLLM/llama.cpp/GGM…