知识库草稿 · Jay · 2026-09-26 下午
本次主题
GitHub Trending · Hugging Face 新模型 · Vector DB 选型 · Agent 框架 · LLMOps · Substack 工业洞察
一、GitHub Trending 高价值条目
★★★ jev-chat/jev-chat-jarvis(6542★,Kotlin)
- 描述:装在手机上的对话副驾,在 QQ / X / 飞书里读懂对方、给出候选回复、一键填入输入框
- 主题:accessibility-service, android, chat-assistant, llm, qq
- 评价:面向中文社交平台的 LLM 辅助对话工具,工程实现上使用 Android 无障碍服务,非侵入式屏幕读取。思路有趣,但工程特殊性较强,非通用方向。
- 链接:https://github.com/jev-chat/jev-chat-jarvis
★★★ unreal-agent(1943★,Go)
- 描述:Async-first agent harness
- 评价:Go 语言实现的异步优先 Agent 框架,主题词少但定位清晰(异步 + Agent)。值得关注其与 Go 生态的集成方式。
- 链接:https://github.com/unreallabsai/unreal-agent
★★ deepopen-com/deepopen(1022★,Python)
- 描述:非自回归 System 1 决策引擎,专为结构化类型决策场景设计
- 主题:non-autoregressive, System 1, decision engine
- 评价:System 1 快思维决策引擎的概念值得关注,与传统 autoregressive LLM 不同,适合低延迟结构化决策场景。
- 链接:https://github.com/deepopen-com/deepopen
★★ mikehasa/golive-skill(951★,TypeScript)
- 描述:Open-source Agent Skill + zero-dependency Node CLI:detect → plan → approve → apply → verify
- 主题:agent-skill, claude-code, cloudflare
- 评价:Agent 部署到生产的工作流工具,自动处理 hosting、database、domain、email、payments。是 Coding Agent 产品化的代表性用例。
- 链接:https://github.com/mikehasa/golive-skill
★★ yetone/magpie(817★,Go)
- 描述:Every agent's model. One place. Codex on DeepSeek, Claude Code on Kimi, from the menu bar.
- 主题:claude-code, codex, deepseek, gemini-cli, llm
- 评价:多模型统一入口工具,在 menu bar 调用不同模型(DeepSeek Codex、Kimi Claude Code 等)。工程实现值得关注,是模型路由的轻量参考。
- 链接:https://github.com/yetone/magpie
★★ nokia-applied-research/AnyJev(731★,Python)
- 描述:Turn any LLM into a Jev-style decision model: typed decisions, real probabilities, no training
- 主题:calibration, decision-model, jev, llm
- 评价:Jev 决策模型的通用化版本,将 LLM 转化为带校准概率的类型化决策模型。不需要训练。值得关注决策可靠性的工程实践。
- 链接:https://github.com/nokia-applied-research/AnyJev
★ omnirexflora-labs/omnicoreagent(247★,Python)
- 描述:Open Python agent harness for production AI apps: tools, MCP, memory, workspace, telemetry, subagents
- 主题:agent, agent-harness, ai-agents, background-tasks
- 评价:生产级 Python Agent harness,包含 MCP、memory、subagents、background tasks 等完整模块。
- 链接:https://github.com/omnirexflora-labs/omnicoreagent
★ openonion/connectonion(1479★)
- 描述:The Best AI Agent Framework for Agent Collaboration
- 主题:agent, agentic-ai, llm, multi-agent
- 评价:多 Agent 协作框架,1479 stars,增长较快。
- 链接:https://github.com/openonion/connectonion
二、Hugging Face 新模型条目
★★★ Comfy-Org/MiniMax-H3(21.7M downloads,2006 likes)
- 描述:Diffusion single file model,2026-07-30 上线
- 评价:MiniMax 家族的最新扩散模型,Hugging Face 下载量极大,说明在 ComfyUI 生态中已广泛使用。
- 链接:https://huggingface.co/Comfy-Org/MiniMax-H3
★★ vamboai/morena-0.2b-nano(2026-09-18 发布)
- 描述:MORENA 0.2B nano — 209M 参数,蒸馏自 1.5B teacher,12 种非洲语言,ASR rescoring、on-device keyboard 场景
- 作者:Isheanesu Misi (Vambo AI),CINECA Leonardo 训练
- 许可:Apache 2.0
- 评价:非洲语言基础模型,非聊天用途,无 safety 测试,专注 ASR rescoring。代表多语言小模型的方向。已发布 GGUF 版本。
- 链接:https://huggingface.co/vamboai/morena-0.2b-nano
★★ ReliquaryForge/qwen3-4b-base-dapo-v4(251K downloads,2026-09-26 最新修改)
- 描述:Qwen3 4B base model,DPO v4 训练版本
- 评价:Qwen3 家族的小参数基座模型,下载量极高(251K),今日修改,适合作为轻量推理基座。
- 链接:https://huggingface.co/ReliquaryForge/qwen3-4b-base-dapo-v4
三、Vector DB 选型综合分析(2026)
核心判断:pgvector 仍是中小规模首选
主流选型建议(综合多篇 2026 benchmark):
| 场景 | 推荐方案 | 理由 |
|---|---|---|
| <50M 向量,PostgreSQL 团队 | pgvector + pgvectorscale | 无新增基础设施,471 QPS @ 99% recall,~50M 向量内性能够用 |
| 千万级,团队有 ops 能力 | Qdrant | 开源自托管 + 云端选项,纯向量性能最强 |
| 亿级,多租户,混合搜索 | Weaviate | 原生 BM25 + vector fusion,多租户合规 |
| 亿级,严格查询性能 | Milvus | 最强 ingest/query isolation,但运维学习曲线陡 |
| 零运维,Managed | Pinecone | 无任何 ops,支持 BYOC,数据主权有代价 |
重要趋势:传统数据库压缩专用向量基础设施
- PostgreSQL + pgvector 已可直接替代专用向量 DB 在 ~50M 向量以下场景
- MongoDB Atlas、SingleStoreDB、Astra DB 等传统数据库均已内置向量搜索
- 2026 年"选向量 DB"本质是基础设施赌注,影响延迟、成本、安全和 RAG 系统实际效果
RAG 生产级 Benchmark 数据(引用 AlphaCorp 2026): - CORE Systems:Qdrant 在 1M 向量、1536 维度下 p50=4.2ms,p99=12ms - Pinecone serverless:p50 ~10ms,适合不在意数据主权的团队
向量 DB 选型 SOP(建议写入知识库 SOP 页): 1. 向量规模 < 50M?→ pgvector 2. 需要全文 + 向量混合?→ Weaviate 3. 亿级以上?→ Qdrant 自托管 或 Zilliz Cloud 4. 零运维?→ Pinecone
参考来源: - https://alphacorp.ai/blog/best-vector-databases-for-rag-2026-top-7-picks - https://dev.to/actiandev/whats-changing-in-vector-databases-in-2026-3pbo - https://medium.com/@pratik-rupareliya/top-15-vector-databases-in-2026-a-production-decision-guide
四、LLMOps 与 MLOps 2026 关键数据
市场规模:2026 年 MLOps 市场预计达 $43.8B,年增长率 39.8%
企业采用率关键数字: - 85% 的 ML 模型从未投入生产(改善空间巨大) - RAG 架构出现在 65% 的应用 LLM 职位描述中 - Prompt 工程技能需求同比增长 135.8% - 75% 的 AI 工程职位明确要求领域专长(通才被筛掉) - 70% 的组织现在使用 3 个或更多模型(多模型架构成主流)
LLMOps 扩展的 7 大最佳实践: 1. 自动化 ML 流水线(CI/CD/CT) 2. 模型版本控制和注册表 3. 数据漂移检测 4. 自动重训练触发器 5. 模型可解释性(治理) 6. LLM 推理成本优化 7. LLMOps 扩展(幻觉监控、RAG 检索质量)
SLO 标准参考: - API 可用性:99.9% 月度 - P50/P95 延迟:50ms / 200ms - 准确率下限:比基线下降不超过 2%
参考来源: - https://medium.com/codex/mlops-in-2026-from-mlflow-to-llmops-the-complete-guide-to-shipping-ai-in-production-0024955b70c4 - https://www.kernshell.com/best-practices-for-scalable-machine-learning-deployment - https://www.linkedin.com/posts/larskamp_datadog-state-of-ai-engineering-activity-7452486050125586432-bGBp
五、Agent 架构新范式:无向量搜索的 Agentic RAG
重要论文:Subramanian et al. AAAI 2026
论文标题:Keyword search is all you need: Achieving RAG-Level Performance Without Vector Databases Using Agentic Tool Use
核心发现:
- 同样的 LLM(Claude 3 Sonnet, 200K context, temperature 0.001),同一评估框架,6 个数据集
- 唯一区别:retriver — Bedrock Knowledge Base + Titan Embeddings vs. ReAct agent + pdfmetadata、rga 等工具调用
- 结果:keyword search + agentic tool use 达到与向量 RAG 同等性能
2026 年主流 Agentic RAG 三架构: 1. 简单 RAG:向量检索 → LLM 生成 2. 带路由的 RAG:query 分析 → 选择性检索 → 重排 3. Agentic RAG(研究员):LLM Agent 自规划检索,多次搜索,自纠正,调用网页浏览或特定数据库工具
实践影响: - 向量搜索不再是从默认,而是按需添加的选项 - Agent 设计原则:给 Agent 工具,仔细设计工具,让它按需检索 - 何时保留向量搜索:大规模稳定语料、语义泛化需求、实时聊天
参考来源: - https://buzzgrewal.medium.com/ai-agents-dont-need-vector-search-anymore-inside-the-agentic-search-stack-replacing-rag-in-2026-58efcabe4f6f
六、Substack 工业洞察:Latent.Space
定位:AI Engineer 领域技术媒体 + 播客,201K+ 订阅者
核心作者: - swyx(Shawn Wang):AI Engineer Summit 组织者 - Alessio Fanelli:Latent.Space 联创
关注领域: - Agents、Models、Infra、AI for Science - 覆盖 Greg Brockman、Andrej Karpathy、George Hotz、Simon Willison、Soumith Chintala 等访谈
推荐订阅内容方向: - LLM evals(评估设计) - Inference tradeoffs(推理权衡) - Deployment choices(部署决策) - Multi-vendor agent 产品化(JetBrains 2026 案例)
AAAI 2026 评估 Benchmark 细节: - 某框架在 50 并发请求下,中间件开销导致 19.2% 的理论吞吐量损失 - 另一框架仅 3.2%
2026 年趋势判断: - "AI Engineer will be LAST job" — swyx 观点:Jevons 悖论视角,认为 AI 工程师数量会随 AI 能力提升而增加而非减少 - Multi-model 架构(70% 组织用 3+ 模型)
订阅地址:https://www.latent.space/
七、分类标签
GitHub-Trending Hugging-Face Vector-DB pgvector Qdrant Weaviate LLMOps MLOps Agentic-RAG Latent-Space Multi-Model MORENA Qwen3 System-1-Decision golive-skill magpie
建议写入路径
- 主草稿:
/shared/research-kb/inbox/jay/2026-09-26-1335-jay-github-hf-vecdb-agentic-stack-sep26.md - Vector DB SOP 可考虑单独建:
/shared/research-kb/inbox/jay/2026-09-26-vecdb-selection-sop-2026.md(待后续补充完整 benchmark 数据)
后续行动
- [ ] 精读 AAAI 2026 agentic RAG 论文(Subramanian et al.)原文
- [ ] 验证 Qdrant vs Weaviate 生产 benchmark 数据来源
- [ ] 关注 golive-skill 在 Cloudflare 上的部署集成细节
- [ ] 关注 NVIDIA 收购 Hugging Face 进展($12.9B,2027 上半年完成)