OpenViking 是字节跳动火山引擎开源的上下文数据库(Context Database),专为 AI Agent 设计。它用文件系统范式替代了传统 RAG 的扁平向量存储,统一管理 Agent 的记忆(Memory)、知识(RAG)和技能(Skills),让开发者像操作本地文件一样管理 Agent 的"大脑"。 文件系统范式:L0/L1/L2 三层按需…
仓库攻略
259 篇 · 257 个项目 · tom · LLM 基础设施
Chronos 是亚马逊科学团队开源的时间序列预测预训练模型家族,通过将时间序列 token 化后借助语言模型架构(类 T5)进行训练,实现零样本预测。整个家族经历三代演进: Chronos2(最新,2025年10月发布):120M 参数 encoderonly 模型;支持单变量、多变量、以及带外生变量的协变量感知预测;上下文扩展至 8192 步、预测长度达…
ymcui/ChineseLLaMAAlpaca 是最早一批将 Meta LLaMA 模型中文化并开源的重量级项目。它的核心工作是两件事: 1. 中文词表扩充——原版 LLaMA 词表偏英文,中文编码效率极低(一个汉字 = 多个 subword),该项目将中文词表扩充至约 5 万 token,显著提升中文处理效率 2. 指令精调(Alpaca)——在扩充词表…
MOSS(MultiOmni Scale System)是复旦大学开源的工具增强型对话语言模型,具有 160 亿参数(16B),支持中英双语、多轮对话,以及插件调用能力(搜索、文生图、计算器、解方程)。 该项目开源内容包括: 本质上,这是一个可以调用工具的中文 ChatGPT 风格模型,可以在本地私有部署,参数规模比 GPT4 小但远大于早期开源 7B 模型…
cursortalktofigmamcp(项目名 TalkToFigma)是新加坡 Grab 团队开源的一个 MCP(Model Context Protocol)集成工具,让 AI Agent(如 Cursor、Claude Code、Codex)能够直接与 Figma 进行双向通信——AI 可以读取 Figma 设计稿内容,也可以修改 Figma 中的元…
Evidently 是一个开源的 ML 和 LLM 可观测性(Observability)框架,用 Python 编写,用于评估、测试和监控 AI 系统——从传统机器学习模型到生成式 LLM 应用均可覆盖。 核心能力: 离线评测(Reports):一次性评估模型或数据质量,输出交互式 HTML 报告或 JSON。 测试套件(Test Suites):在 CI…
Mooler0410/LLMsPracticalGuide 是一个以Survey Paper 为基础整理的LLM实践指南索引库(而非代码库)。它将大语言模型领域的论文、博客、工具按主题分类组织,帮助研究者和工程师在庞杂的文献中找到"什么场景用什么模型/方法"的最优路径。 核心资产有两块: 1. LLM 演进树(Evolutionary Tree):一张可视化…
内容待复核
BradyFU/Awesome-Multimodal-Large-Language-Models · 上手攻略
这是一份由南京大学 MIG 实验室(NJUMiG)维护的多模态大语言模型(Multimodal Large Language Models,MLLM)前沿论文合集,截至 2026 年 7 月已收录 17.9k+ Stars,是 MLLM 领域最全面、最活跃的社区驱动的学术索引之一。 它不是代码库,而是一个持续更新的知识库,系统整理了 MLLM 各个子方向的论…
OpenAgent 是一个开源的个人 AI 助手平台,主打「allinone」路线:把大模型(LLM)、知识库(RAG)和自主 Agent 循环整合到一起,以单二进制文件形式交付,开箱即用。 它的核心理念是「selfhostable」——不需要把数据送到第三方,自己部署自己用。它同时支持 browseruse(控制真实浏览器)、computeruse(操作文…
Metaflow 是 Netflix 于 2019 年开源的人类中心化 ML/AI 系统框架,用 Python 编写,目标是让数据科学家和工程师能够从笔记本快速原型开发无缝过渡到可靠的生产部署。它覆盖了 AI/ML 项目全生命周期:实验跟踪、数据管理、模型版本控制、水平/垂直扩展,以及一键部署到生产编排器。 Netflix 内部有超过 3000 个 AI/M…
Giskard 是一个开源 Python 库,专为测试和评估 AI Agent 系统而设计,由法国团队 GiskardAI 维护。它经历了从 v2 到 v3 的重大重写:v3 采用模块化架构,将功能拆分为 giskardchecks(轻量测试)、giskardscan(红队漏洞扫描)和规划中的 giskardrag(RAG 评估)三个独立包,去掉了 v2 中…
karpathy/llm.c 是由知名 AI 研究员 Andrej Karpathy 创建的一个开源项目,目标是用最简单、纯粹的 C/CUDA 代码实现大语言模型(LLM)训练,无需依赖 PyTorch 或 Python 运行时。 核心思想:用原始的 C 代码(~1,000 行)+ CUDA kernel,直接从零实现 GPT2 训练链路,去掉一切不必要的抽…
ncnn 是腾讯开源的高性能神经网络推理框架,专门针对移动端、嵌入式设备和桌面端场景优化。它的核心特点是无第三方运行时依赖(pure C++ 实现)、支持 CPU 和 Vulkan GPU 双后端,可将 PyTorch / ONNX 模型直接部署到手机、PC、浏览器或边缘设备上。 腾讯内部已大规模落地:QQ、Qzone、微信、天天 P 图等产品均在用。 最新…
PocketFlowTutorialCodebaseKnowledge 是一个基于 PocketFlow(100 行 LLM 框架)的代码库知识库生成工具。给它一个 GitHub 仓库,它会爬取代码、自动分析代码结构、识别核心抽象和它们之间的交互,然后生成一份初学者友好的教程网页(Markdown + HTML),附带可视化说明。 本质上是把"读懂一个陌生代…
OpenLLMetry(发音「openLLmetry」)是基于 OpenTelemetry 的开源 LLM 应用可观测性工具,由 Y Combinator 支持的 Traceloop 公司开发和维护(Apache 2.0 许可)。 它的核心思路:用 OpenTelemetry 标准采集 LLM 应用的全链路追踪数据,无需更换你现有的可观测性基础设施(Data…
BISHENG(毕昇)是一款开源 LLM 应用开发平台,主攻企业级场景,由国内公司 DataElement 开发维护。"毕昇"取自活字印刷术发明人,寓意"让智能应用像知识传播一样普惠"。平台融合了 Workflow 编排、RAG、Agent、模型管理、数据集管理、评估、SFT 微调、文档解析、观测等企业 AI 所需的全套能力,已被多家行业头部组织和世界 50…
内容待复核
WangRongsheng/awesome-LLM-resources · 上手攻略
awesomeLLMresources 是由 WangRongsheng(王荣胜)维护的大语言模型(LLM)优质资源汇总仓库,目前 8.6K+ Stars。它自称"全世界最好的LLM资料总结",涵盖从数据处理、微调、Agent 开发、推理优化、RAG、模型评测到多模态(小语言模型、视觉语言模型)等全链路内容,并持续更新。 这不是一个代码工具库,而是一个持续更…
awesomereactcomponents 是一个精选的 React 优秀组件库导航列表(awesome list),由 Vike 框架作者 @brillout 和 Fluxguard 作者 @petebray 维护。 与普通组件列表不同,这里的"awesome"有明确标准: 解决真实问题,不只是 Demo 玩具 独特、优雅或出色的实现,非烂大街的常见轮子…
Dyad 是一个本地运行、开源免费的 AI 应用构建工具(v0 / Lovable / Replit / Bolt 的开源替代)。用户通过自然语言描述需求,Dyad 自动生成完整的全栈应用代码,全程在本地机器运行,不依赖云端平台,不锁死生态,代码完全属于你自己。 支持 macOS 和 Windows,下载即可使用,无需注册。 1. 前往官网下载页面: 2. …
chatanywhere/GPT_API_free 是一个免费中转 API 服务,让国内用户无需科学上网即可调用 OpenAI GPT 系列、DeepSeek、Claude(Anthropic 官方协议)、Gemini、Qwen、Kimi、GLM、Minimax 等主流大模型的 API 接口。项目提供免费 API Key(每日限额),也支持付费 Key 获取…
awesomecheatsheets 是一个精心编制的编程语言、框架和开发工具速查表合集。每个主题一张表,涵盖"你应该在脑子里记住的所有关键知识点",文件形式有 .md、.sh、.js、.php 等,直接对应各语言/工具的实际用法。 46k+ Stars,是 awesome 家族中最实用的工具类列表之一。 | 类别 | 速查表 | ||| | 命令行 | B…
llmforzotero 是一个Zotero 阅读器插件,将大语言模型直接嵌入 Zotero 的 PDF 阅读界面,让你可以直接在 Zotero 里和论文对话、做摘要、查证据、比对多篇文献,并把研究笔记导出到 Obsidian、Logseq 等本地知识库。 简单说:Zotero 里的 ChatPDF,但不只是 Chat——还能自动整理进你的 PKM 系统。 …
FinRobot 是 AI4Finance Foundation 推出的开源金融 AI Agent 平台,旨在将大语言模型(LLM)与金融分析深度融合,用多 Agent 协作替代传统的单一模型方案。 它的核心理念是:数字靠代码计算,叙事靠 LLM 辅助,每一步输出都可溯源。所有财务估值(DCF、DDM、LBO、WACC、可比公司法等)都通过确定性 Pytho…
Canner/WrenAI 是 开源 GenBI(Generative BI)引擎,核心能力是让 AI Agent 通过自然语言生成可信的 SQL 查询、可治理的业务仪表盘。它不是简单的 texttoSQL 工具——它通过一层开放 Context Layer(MDL 语义模型),把业务定义、数据血缘、查询记忆等「业务知识」注入 Agent 的推理过程,从根本…
GoogleCloudPlatform/generativeai 是 Google 官方维护的 Google Cloud 生成式 AI 示例代码库,收录 Gemini 模型调用、RAG、Agent Build、搜索增强、视觉生成、音频处理等全场景的 Jupyter Notebook 和代码示例。截至 202607 仍保持活跃更新(最近提交 20260710)…
NirDiamant/agentstowardsproduction 是一个端到端、代码优先的 GenAI Agent 生产化教程仓库,由 AI 教育博主 Nir Diamant 维护(LinkedIn 粉丝众多,RAG Techniques Newsletter 作者)。目前收录 28 个生产级教程,覆盖从原型到企业级部署的完整链路。 每个教程都是独立文件…
vLLMOmni 是 vLLM 社区推出的全模式(omnimodality)推理框架,将 vLLM 的高性能 LLM 推理能力扩展到任意到任意的多模态模型——不只是理解图像/视频/音频,而是能同时生成多种模态的输出(文本+图像+视频+音频)。 支持的输出类型: 一句话概括:vLLM 在多模态生成领域的扩展,让研究者和企业能用生产级性能跑 OmniModali…
NVIDIA NeMo Speech 是 NVIDIA 推出的专注于语音 AI 的开源框架,支持自动语音识别(ASR)、语音合成(TTS)和语音大模型(Speech LLM)三大方向。它是从原 NVIDIA/NeMo 大一统仓库中拆分出来的独立版本(2026 年 6 月正式发布首个 release),专门面向需要训练和微调语音模型的 연구人员和 PyTorc…
CAI(Cybersecurity AI) 是由西班牙网络安全公司 Alias Robotics 开发的一个开源 Agent 框架,专门用于构建网络安全场景下的 AI 自动化工具。它不是一款"安全扫描器",而是一个用 AI Agent 方式做网络安全任务的开发框架——用户可以用它创建专门的安全 Agent,让 AI 自动完成侦察、漏洞发现、利用验证、CTF …
fffaraz 维护的 C++(及 C)优质框架、库、资源精选列表。灵感来自其他 awesome 项目,是 C++ 领域 Star 数最高的资源列表之一。 覆盖范围极广:从标准库参考、通用框架、AI/ML、异步网络、科学计算,到 GUI、游戏引擎、网络协议、数据库驱动,几乎囊括了现代 C++ 开发生态中所有值得关注的工具。按类别组织,条目均附 GitHub …