AI 工程・后端・数据库 趋势扫描 | 2026-07-08

实例: Jay
检索范围: GitHub Trending · Hugging Face Papers/Models · Tavily 专题搜索
主题: AI 工程基础设施、大模型推理引擎、Agent 框架、向量数据库、LLM 部署


🔥 addyosmani/agent-skills — 工程级 Agent 技能库

  • 链接: https://github.com/addyosmani/agent-skills
  • 星标: 72,648 ⭐ | Fork 7,866 | 日增 1,317
  • 语言: JavaScript
  • 简介: 面向 AI 编程 Agent(如 Claude Code、Copilot)的生产级工程技能集合,涵盖前端、后端、测试、安全等工程维度的 Agent 可用技能定义。
  • 可信度: ⭐⭐⭐⭐⭐(addyosmani 为 Google 工程师,质量有保障)
  • 评价: Agent 工程化的里程碑式项目,定义了"Agent 可消费的技能接口"标准。与传统 tool calling 不同,这里的技能是结构化、可测试的工程模块。
  • 后续行动: 可考虑收录为"AI Coding Agent 工程实践"主题页核心参考;与 Cursor/Copilot 工具链研究联动。

🔥 TencentCloud/CubeSandbox — Rust 安全沙箱

  • 链接: https://github.com/TencentCloud/CubeSandbox
  • 星标: 8,663 ⭐ | Fork 727 | 日增 664
  • 语言: Rust
  • 简介: 腾讯开源的轻量级 Rust 沙箱,面向 AI Agent 提供安全隔离执行环境,支持代码执行、文件操作、网络请求等场景。
  • 可信度: ⭐⭐⭐⭐⭐(腾讯内部孵化,开源维护活跃)
  • 评价: 对标 E2B 的国产替代方案,Rust 实现保证高性能和内存安全。E2B 走 TypeScript/云端路线,CubeSandbox 更轻量、本地优先。
  • 后续行动: 对比 E2B、SafeLoop 等竞品,补充至"AI Agent 安全执行环境"分析。

🔥 asgeirtj/system_prompts_leaks — 系统提示泄露研究

  • 链接: https://github.com/asgeirtj/system_prompts_leaks
  • 星标: 53,500 ⭐ | Fork 8,719 | 日增 1,691
  • 语言: JavaScript
  • 简介: 持续收集各大厂商(Anthropic、OpenAI、Google、xAI)AI 产品的系统提示词泄露样本。
  • 可信度: ⭐⭐⭐(社区驱动,数据量大但未经验证)
  • 评价: 安全研究者必备参考资料,对理解各家 LLM 系统设计有价值。需注意部分内容可能过时或伪造。
  • 后续行动: 收录为"LLM 系统工程・提示词研究"辅助参考源,不作为一手资料引用。

🔥 ruvnet/RuView — WiFi 信号感知

  • 链接: https://github.com/ruvnet/RuView
  • 简介: 利用 commodity WiFi 实现无摄像头空间感知、生命体征监测、存在检测。
  • 可信度: ⭐⭐⭐(工程方向有趣,但需核实实际效果)
  • 评价: 跨模态感知研究的新思路,非视觉方案在隐私敏感场景有独特价值。
  • 后续行动: 归档,有余力可深入阅读源码。

🔥 kyutai-labs/pocket-tts — CPU 可运行 TTS

  • 链接: https://github.com/kyutai-labs/pocket-tts
  • 星标: 6,447 ⭐ | 日增 531
  • 语言: Python
  • 简介: 可在 CPU 上运行的轻量 TTS 模型,Kyutai Labs 开源。
  • 可信度: ⭐⭐⭐⭐(学术背景团队,工程化程度待验证)
  • 评价: 端侧 TTS 赛道值得关注,与 whisper.cpp 系列形成互补。
  • 后续行动: 归档备选,核实其在消费级 CPU 的实时性指标。

🔥 MadsLorentzen/ai-job-search — AI 求职框架

  • 链接: https://github.com/MadsLorentzen/ai-job-search
  • 星标: 12,855 ⭐ | 日增 2,514
  • 简介: 基于 Claude Code 的 AI 驱动求职框架,含简历定制、求职信生成、模拟面试。
  • 可信度: ⭐⭐⭐(工程完整度高,非核心研究主题)
  • 评价: Agentic workflow 工程实践案例,展示多步骤 Agent 编排。
  • 后续行动: 作为 Agent workflow 工程案例参考。

🔥 iOfficeAI/OfficeCLI — Office 文件 AI 操作

  • 链接: https://github.com/iOfficeAI/OfficeCLI
  • 星标: 10,784 ⭐ | Fork 722 | 日增 893
  • 简介: 纯二进制工具,无需安装 Office 即可读写 Word/Excel/PowerPoint,面向 AI Agent 操作办公文件。
  • 可信度: ⭐⭐⭐⭐
  • 评价: AI Agent 操作系统桌面文件的基础设施工具类项目,工程价值高于研究价值。
  • 后续行动: 补充至"AI Agent 工具生态"整理。

⭐ dotnet/skills — .NET AI 技能定义

  • 链接: https://github.com/dotnet/skills
  • 星标: 4,389 ⭐ | Fork 325
  • 简介: 微软官方的 .NET AI Agent 技能库,定义 Agent 与 C#/dotnet 生态交互的规范。
  • 可信度: ⭐⭐⭐⭐⭐(Microsoft 官方维护)
  • 评价: 与 addyosmani/agent-skills 形成对比,是 Microsoft 官方对 Agent 工程化标准的回应。跨平台/跨语言 Agent 技能规范是 2026 年重要趋势。
  • 后续行动: 重点关注,建议与 agent-skills 对比研究,输出"Agent 技能规范对比分析"。

二、HF Papers 今日热文(arXiv 2026-07)

📄 HiLS-Attention — 腾讯/Hunyuan:层次化稀疏注意力

  • arXiv: https://arxiv.org/abs/2607.02980
  • 作者: Tencent Hunyuan 团队
  • 核心观点: 提出 Hierarchical Landmark Sparse Attention,将长上下文稀疏注意力建模为端到端可学习任务。查询先对每个 chunk 独立提取信息,再根据检索分数融合。能在 90% 检索精度下外推到训练长度的 64 倍以上,同时保持稀疏 KV 访问,突破效率-性能 trade-off。
  • 可信度: ⭐⭐⭐⭐⭐
  • 评价: 对 RAG 和超长上下文场景有直接工程意义,是 context scaling 的重要方向。
  • 后续行动: ⭐建议精读,关注开源实现时间线(腾讯通常会配套开源代码)。

📄 AlayaWorld — 可交互生成世界框架

  • arXiv: https://arxiv.org/abs/2607.06291
  • 作者: 未确认(提交人 taesiri)
  • 核心观点: 全栈开源框架,支持实时可交互的生成式游戏世界,涵盖数据准备、模型训练、推理加速、部署完整 pipeline。
  • 可信度: ⭐⭐⭐⭐
  • 评价: 偏向应用研究而非基础模型突破,但对实时生成系统有参考价值。
  • 后续行动: 归档,游戏/具身智能研究者可关注。

📄 SenseNova-Vision — 统一多模态视觉生成

  • arXiv: https://arxiv.org/abs/2607.06560
  • 作者: sensenova
  • 核心观点: 将各类视觉任务(检测、OCR、分割、深度估计等)统一为多模态生成问题,用自然语言指令+可选视觉提示指定任务。
  • 可信度: ⭐⭐⭐⭐
  • 评价: 统一多模态架构趋势延续,值得关注与 LLaVA、InternVL 系列的技术路线对比。
  • 后续行动: 归档,等正式论文/代码放出后深度跟进。

三、推理引擎格局(2026-07 最新)

核心格局:TGI 退场,双雄争霸

  • TGI(Hugging Face): 2025 年 12 月进入维护模式,官方推荐迁移至 vLLM 或 SGLang。
  • vLLM: H100 上 Llama 70B 约 3,500 tok/s,社区最大(66k+ ⭐),生态最广。
  • SGLang: H100 上同模型约 4,000-5,000 tok/s(前缀缓存优势),多轮对话/RAG 场景表现突出。
  • TensorRT-LLM: NVIDIA 官方,H100 性能最优但部署复杂度高,编译时间长。
  • llama.cpp: CPU/边缘推理首选,H100 上 4,500 tok/s(量化后)。

选型建议(2026-07)

场景 推荐
多用户 GPU 推理 vLLM
RAG/多轮对话/前缀密集 SGLang
NVIDIA 专用极致性能 TensorRT-LLM
CPU 或边缘部署 llama.cpp / LMDeploy
新项目初始化 vLLM(生态最全)或 SGLang(性能更优)

可信度: ⭐⭐⭐⭐⭐(多个独立 benchmark 一致) 参考: TECHSY benchmark、DeployBase、Yotta Labs、Spheron 对比报告


四、HF Models 下载量榜单(text-generation,按下载量)

排名 模型 下载量 备注
1 Qwen3-0.6B 381,591/wk 超小型指令微调模型
2 Qwen3-8B 28.1M 主流选择
3 Qwen2.5-7B-Instruct 12.7M 成熟稳定
4 deepseek-ai/DeepSeek-R1 8.59M 推理模型代表
5 openai/gpt-oss-20b 7.01M OpenAI 开源权重
6 openai/gpt-oss-120b 4.3M MoE 结构

趋势: Qwen 系列统治下载榜;DeepSeek-R1 推理模型需求持续;GPT-OSS(OpenAI 开源)快速崛起。


五、LLM 2026 上半年重要论文回顾(Sebastian Raschka 整理)

来源:https://magazine.sebastianraschka.com/p/llm-research-papers-2026-part1

时间 论文 主题
2026-01 Scaling Embeddings Outperforms Scaling Experts 混合专家模型新视角
2026-02 GLM-5: From Vibe Coding to Agentic Engineering GLM-5 agent 工程
2026-02 ViT-5 视觉 Transformer
2026-03 Attention Residuals 注意力机制新变体
2026-03 Mamba-3 状态空间模型进化
2026-04 Nemotron 3 Super MoE+混合 Mamba-Transformer
2026-05 Kimi K2.5 月之暗面多模态旗舰

六、RAG / Agentic AI 生态

awesome-ai-agents-2026 系列(多个同名 repo)

  • caramaschiHG 版本: 463 forks,覆盖 340+ 资源,20 类目,含 Coding Agents、Multi-Agent、Observability、RAG 等。
  • Zijian-Ni 版本: 中文版 README.zh-CN,53 forks,Python 100%。
  • 可信度: ⭐⭐⭐⭐(社区维护,分类全面但时效性依赖更新频率)
  • 评价: 体系化程度高,适合作为知识库导航页面补充。

Agentic RAG 趋势

  • Agentic RAG = 让 RAG 检索过程本身被 LLM 引导决策(查什么、怎么查、查几轮)。
  • LangGraph、LangChain、Llamaindex 均已支持 Agentic RAG 原语。
  • 代表 repo:LangFlow(可视化 RAG pipeline builder)持续热门。

七、分类标签

LLM推理引擎 vLLM SGLang TensorRT-LLM HiLS-Attention RAG Agentic-RAG AI-Agent 向量数据库 长上下文 多模态 开源LLM Qwen DeepSeek GPT-OSS Agent工程化 GitHub-Trending HuggingFace


八、本次写入路径

实际写入: /shared/research-kb/inbox/jay/2026-07-08-ai-engineering-trending.md


九、建议行动

优先级 行动 理由
⭐⭐⭐ 精读 HiLS-Attention 论文+源码 context scaling 工程价值高,腾讯通常配套开源
⭐⭐⭐ 关注 addyosmani/agent-skills 与 dotnet/skills 对比 Agent 技能规范是 2026 工程化主轴
⭐⭐ 更新"LLM 推理引擎选型指南" TGI 退场格局变化需同步
⭐⭐ 归档 SenseNova-Vision、AlayaWorld 多模态和生成世界方向值得跟踪
归档 GPT-OSS 20B/120B 崛起数据 OpenAI 开源权重是今年最大变量之一