知识库草稿 · Jay · 2026-09-26 下午

本次主题

GitHub Trending · Hugging Face 新模型 · Vector DB 选型 · Agent 框架 · LLMOps · Substack 工业洞察


★★★ jev-chat/jev-chat-jarvis(6542★,Kotlin)

  • 描述:装在手机上的对话副驾,在 QQ / X / 飞书里读懂对方、给出候选回复、一键填入输入框
  • 主题:accessibility-service, android, chat-assistant, llm, qq
  • 评价:面向中文社交平台的 LLM 辅助对话工具,工程实现上使用 Android 无障碍服务,非侵入式屏幕读取。思路有趣,但工程特殊性较强,非通用方向。
  • 链接:https://github.com/jev-chat/jev-chat-jarvis

★★★ unreal-agent(1943★,Go)

  • 描述:Async-first agent harness
  • 评价:Go 语言实现的异步优先 Agent 框架,主题词少但定位清晰(异步 + Agent)。值得关注其与 Go 生态的集成方式。
  • 链接:https://github.com/unreallabsai/unreal-agent

★★ deepopen-com/deepopen(1022★,Python)

  • 描述:非自回归 System 1 决策引擎,专为结构化类型决策场景设计
  • 主题:non-autoregressive, System 1, decision engine
  • 评价:System 1 快思维决策引擎的概念值得关注,与传统 autoregressive LLM 不同,适合低延迟结构化决策场景。
  • 链接:https://github.com/deepopen-com/deepopen

★★ mikehasa/golive-skill(951★,TypeScript)

  • 描述:Open-source Agent Skill + zero-dependency Node CLI:detect → plan → approve → apply → verify
  • 主题:agent-skill, claude-code, cloudflare
  • 评价:Agent 部署到生产的工作流工具,自动处理 hosting、database、domain、email、payments。是 Coding Agent 产品化的代表性用例。
  • 链接:https://github.com/mikehasa/golive-skill

★★ yetone/magpie(817★,Go)

  • 描述:Every agent's model. One place. Codex on DeepSeek, Claude Code on Kimi, from the menu bar.
  • 主题:claude-code, codex, deepseek, gemini-cli, llm
  • 评价:多模型统一入口工具,在 menu bar 调用不同模型(DeepSeek Codex、Kimi Claude Code 等)。工程实现值得关注,是模型路由的轻量参考。
  • 链接:https://github.com/yetone/magpie

★★ nokia-applied-research/AnyJev(731★,Python)

  • 描述:Turn any LLM into a Jev-style decision model: typed decisions, real probabilities, no training
  • 主题:calibration, decision-model, jev, llm
  • 评价:Jev 决策模型的通用化版本,将 LLM 转化为带校准概率的类型化决策模型。不需要训练。值得关注决策可靠性的工程实践。
  • 链接:https://github.com/nokia-applied-research/AnyJev

★ omnirexflora-labs/omnicoreagent(247★,Python)

  • 描述:Open Python agent harness for production AI apps: tools, MCP, memory, workspace, telemetry, subagents
  • 主题:agent, agent-harness, ai-agents, background-tasks
  • 评价:生产级 Python Agent harness,包含 MCP、memory、subagents、background tasks 等完整模块。
  • 链接:https://github.com/omnirexflora-labs/omnicoreagent

★ openonion/connectonion(1479★)

  • 描述:The Best AI Agent Framework for Agent Collaboration
  • 主题:agent, agentic-ai, llm, multi-agent
  • 评价:多 Agent 协作框架,1479 stars,增长较快。
  • 链接:https://github.com/openonion/connectonion

二、Hugging Face 新模型条目

★★★ Comfy-Org/MiniMax-H3(21.7M downloads,2006 likes)

  • 描述:Diffusion single file model,2026-07-30 上线
  • 评价:MiniMax 家族的最新扩散模型,Hugging Face 下载量极大,说明在 ComfyUI 生态中已广泛使用。
  • 链接:https://huggingface.co/Comfy-Org/MiniMax-H3

★★ vamboai/morena-0.2b-nano(2026-09-18 发布)

  • 描述:MORENA 0.2B nano — 209M 参数,蒸馏自 1.5B teacher,12 种非洲语言,ASR rescoring、on-device keyboard 场景
  • 作者:Isheanesu Misi (Vambo AI),CINECA Leonardo 训练
  • 许可:Apache 2.0
  • 评价:非洲语言基础模型,非聊天用途,无 safety 测试,专注 ASR rescoring。代表多语言小模型的方向。已发布 GGUF 版本。
  • 链接:https://huggingface.co/vamboai/morena-0.2b-nano

★★ ReliquaryForge/qwen3-4b-base-dapo-v4(251K downloads,2026-09-26 最新修改)

  • 描述:Qwen3 4B base model,DPO v4 训练版本
  • 评价:Qwen3 家族的小参数基座模型,下载量极高(251K),今日修改,适合作为轻量推理基座。
  • 链接:https://huggingface.co/ReliquaryForge/qwen3-4b-base-dapo-v4

三、Vector DB 选型综合分析(2026)

核心判断:pgvector 仍是中小规模首选

主流选型建议(综合多篇 2026 benchmark):

场景 推荐方案 理由
<50M 向量,PostgreSQL 团队 pgvector + pgvectorscale 无新增基础设施,471 QPS @ 99% recall,~50M 向量内性能够用
千万级,团队有 ops 能力 Qdrant 开源自托管 + 云端选项,纯向量性能最强
亿级,多租户,混合搜索 Weaviate 原生 BM25 + vector fusion,多租户合规
亿级,严格查询性能 Milvus 最强 ingest/query isolation,但运维学习曲线陡
零运维,Managed Pinecone 无任何 ops,支持 BYOC,数据主权有代价

重要趋势:传统数据库压缩专用向量基础设施

  • PostgreSQL + pgvector 已可直接替代专用向量 DB 在 ~50M 向量以下场景
  • MongoDB Atlas、SingleStoreDB、Astra DB 等传统数据库均已内置向量搜索
  • 2026 年"选向量 DB"本质是基础设施赌注,影响延迟、成本、安全和 RAG 系统实际效果

RAG 生产级 Benchmark 数据(引用 AlphaCorp 2026): - CORE Systems:Qdrant 在 1M 向量、1536 维度下 p50=4.2ms,p99=12ms - Pinecone serverless:p50 ~10ms,适合不在意数据主权的团队

向量 DB 选型 SOP(建议写入知识库 SOP 页): 1. 向量规模 < 50M?→ pgvector 2. 需要全文 + 向量混合?→ Weaviate 3. 亿级以上?→ Qdrant 自托管 或 Zilliz Cloud 4. 零运维?→ Pinecone

参考来源: - https://alphacorp.ai/blog/best-vector-databases-for-rag-2026-top-7-picks - https://dev.to/actiandev/whats-changing-in-vector-databases-in-2026-3pbo - https://medium.com/@pratik-rupareliya/top-15-vector-databases-in-2026-a-production-decision-guide


四、LLMOps 与 MLOps 2026 关键数据

市场规模:2026 年 MLOps 市场预计达 $43.8B,年增长率 39.8%

企业采用率关键数字: - 85% 的 ML 模型从未投入生产(改善空间巨大) - RAG 架构出现在 65% 的应用 LLM 职位描述中 - Prompt 工程技能需求同比增长 135.8% - 75% 的 AI 工程职位明确要求领域专长(通才被筛掉) - 70% 的组织现在使用 3 个或更多模型(多模型架构成主流)

LLMOps 扩展的 7 大最佳实践: 1. 自动化 ML 流水线(CI/CD/CT) 2. 模型版本控制和注册表 3. 数据漂移检测 4. 自动重训练触发器 5. 模型可解释性(治理) 6. LLM 推理成本优化 7. LLMOps 扩展(幻觉监控、RAG 检索质量)

SLO 标准参考: - API 可用性:99.9% 月度 - P50/P95 延迟:50ms / 200ms - 准确率下限:比基线下降不超过 2%

参考来源: - https://medium.com/codex/mlops-in-2026-from-mlflow-to-llmops-the-complete-guide-to-shipping-ai-in-production-0024955b70c4 - https://www.kernshell.com/best-practices-for-scalable-machine-learning-deployment - https://www.linkedin.com/posts/larskamp_datadog-state-of-ai-engineering-activity-7452486050125586432-bGBp


五、Agent 架构新范式:无向量搜索的 Agentic RAG

重要论文:Subramanian et al. AAAI 2026

论文标题:Keyword search is all you need: Achieving RAG-Level Performance Without Vector Databases Using Agentic Tool Use

核心发现: - 同样的 LLM(Claude 3 Sonnet, 200K context, temperature 0.001),同一评估框架,6 个数据集 - 唯一区别:retriver — Bedrock Knowledge Base + Titan Embeddings vs. ReAct agent + pdfmetadata、rga 等工具调用 - 结果:keyword search + agentic tool use 达到与向量 RAG 同等性能

2026 年主流 Agentic RAG 三架构: 1. 简单 RAG:向量检索 → LLM 生成 2. 带路由的 RAG:query 分析 → 选择性检索 → 重排 3. Agentic RAG(研究员):LLM Agent 自规划检索,多次搜索,自纠正,调用网页浏览或特定数据库工具

实践影响: - 向量搜索不再是从默认,而是按需添加的选项 - Agent 设计原则:给 Agent 工具,仔细设计工具,让它按需检索 - 何时保留向量搜索:大规模稳定语料、语义泛化需求、实时聊天

参考来源: - https://buzzgrewal.medium.com/ai-agents-dont-need-vector-search-anymore-inside-the-agentic-search-stack-replacing-rag-in-2026-58efcabe4f6f


六、Substack 工业洞察:Latent.Space

定位:AI Engineer 领域技术媒体 + 播客,201K+ 订阅者

核心作者: - swyx(Shawn Wang):AI Engineer Summit 组织者 - Alessio Fanelli:Latent.Space 联创

关注领域: - Agents、Models、Infra、AI for Science - 覆盖 Greg Brockman、Andrej Karpathy、George Hotz、Simon Willison、Soumith Chintala 等访谈

推荐订阅内容方向: - LLM evals(评估设计) - Inference tradeoffs(推理权衡) - Deployment choices(部署决策) - Multi-vendor agent 产品化(JetBrains 2026 案例)

AAAI 2026 评估 Benchmark 细节: - 某框架在 50 并发请求下,中间件开销导致 19.2% 的理论吞吐量损失 - 另一框架仅 3.2%

2026 年趋势判断: - "AI Engineer will be LAST job" — swyx 观点:Jevons 悖论视角,认为 AI 工程师数量会随 AI 能力提升而增加而非减少 - Multi-model 架构(70% 组织用 3+ 模型)

订阅地址:https://www.latent.space/


七、分类标签

GitHub-Trending Hugging-Face Vector-DB pgvector Qdrant Weaviate LLMOps MLOps Agentic-RAG Latent-Space Multi-Model MORENA Qwen3 System-1-Decision golive-skill magpie


建议写入路径

  • 主草稿:/shared/research-kb/inbox/jay/2026-09-26-1335-jay-github-hf-vecdb-agentic-stack-sep26.md
  • Vector DB SOP 可考虑单独建:/shared/research-kb/inbox/jay/2026-09-26-vecdb-selection-sop-2026.md(待后续补充完整 benchmark 数据)

后续行动

  • [ ] 精读 AAAI 2026 agentic RAG 论文(Subramanian et al.)原文
  • [ ] 验证 Qdrant vs Weaviate 生产 benchmark 数据来源
  • [ ] 关注 golive-skill 在 Cloudflare 上的部署集成细节
  • [ ] 关注 NVIDIA 收购 Hugging Face 进展($12.9B,2027 上半年完成)