Sebastian Raschka（AI 研究者、前威斯康星大学麦迪逊分校教授）在 2026 年 7 月 18 日发表了一篇深度技术博文，系统解释了 LLM 如何在推理时切换低/中/高三种「精力」（effort）推理模式，以及这些能力在训练阶段是如何被注入的。 这不是一篇泛泛的科普文，而是从 RLVR 训练机制、思维链格式的真正作用，到 Qwen3 的「思维…
仓库攻略
308 篇 · 307 个项目 · 评测基准
Direct OnPolicy Distillation（DirectOPD）是清华大学与字节跳动Seed团队提出的一种弱到强泛化方法，核心思路是： 在小模型上跑强化学习（RL），然后只把小模型 RL 产生的"策略方向"迁移给大模型，而不是让大模型直接模仿小模型的最终输出。 官方仓库：BytedTsinghuaSIA/DirectOPD（GitHub）+ H…
Apache Burr（incubating）是一个 Python 状态机框架，用来构建"会做决策的应用"——chatbot、agent、simulation、人机协作工具。它把应用建模成一张 state machine（状态机/流程图）： Burr 的关键设计哲学是 "框架无关"：它不规定你必须用哪个 LLM SDK、哪个 vector DB、哪个 age…
Apache Hamilton（incubating）是一个轻量的 Python 库，用"Python 函数即节点"的方式构建数据转换 DAG。它的核心思路是：你写普通的 Python 函数，函数参数的名字 = 它依赖的上游节点名，Hamilton 自动把这些函数拼成 DAG、并按依赖顺序执行。 举例： import pandas as pd def sig…
OpenLIT 是一个开源的 AI Engineering 平台，定位是"一站式把 LLM 应用从实验推到生产"。它把 OpenTelemetry 当作统一底座，向上提供 6 类核心能力： 1. 可观测性 SDK（Python / TypeScript / Go）：对 50+ LLM provider、VectorDB、Agent 框架、GPU 做自动埋点（…
IFStruct 是 Liquid AI 发布的一个结构化输出合规性评测基准（benchmark），专门测试 LLM 能否在真实用户指令的混乱表达下，生成符合目标 schema 的有效 JSON 或 YAML。官方 Repo：Liquid4All/ifstruct；数据集同步发布于 HuggingFace。 核心理念（来自官方博客）：现有结构化输出评测通常将…
2026 年 7 月 14 日上传至 arXiv 的一篇97 页大survey（arXiv:2607.13104），由 DAIR.AI 团队（Zhe Ren、Yimeng Chen 等）联合 Jürgen Schmidhuber 等人撰写。配套 GitHub 仓库 selfimprovingagent/awesomeSelfImprovingAgents 提…
GPT5.6 是 OpenAI 于 2026 年 7 月 9 日正式发布的第五代 GPT 主线模型，采用了与前代完全不同的三级档位 + 多档推理努力度矩阵： 三档（Tier） | 档位 | 定位 | 输入价格 ($/1M tokens) | 输出价格 ($/1M tokens) | ||||| | Sol | 前沿旗舰，对应此前不带后缀的 GPT5 | $5…
Zvec 是阿里巴巴通义实验室开源的进程内（inprocess）向量数据库，定位为"向量数据库领域的 SQLite"——直接以内嵌库的方式运行在你的应用程序中，无需部署独立的数据库服务进程。它基于阿里生产级 Proxima 向量检索引擎，支持稠密向量 + 稀疏向量 + 全文检索（FTS）混合检索，并内置 WAL 持久化、多进程并发读取等企业级特性。 当前版本…
Sakana Fugu 是 Sakana AI 在 2026 年发布的多智能体编排系统，其核心是一个 7B 参数的 Conductor 模型。该模型不自己解题，而是像"管理者"一样动态决定： 调用哪些专家模型（worker pool 包含 GPT5.5、Gemini 3.1 Pro、Claude Opus 4.8 等） 每个 worker 分配什么任务 wo…
这是 Decoding AI 杂志社出品的开源实战课程仓库，教你从零搭建一个"Second Brain AI 助手" —— 让你的 Notion / 网页笔记 / 文档作为个人知识库，配合 agent + RAG + 微调 + LLMOps，做出一个能聊你自己的笔记的生产级 AI 助手。MIT 协议、纯 Jupyter Notebook + Python、最…
ChainForge 是一个给 LLM prompt 做对抗测试的开源可视化编程环境（visual programming environment），学术出身 —— 作者 Ian Arawjo 在 Harvard HCI 组做博后期间发表（CHI 2024 论文 "ChainForge: A Visual Toolkit for Prompt Enginee…
Laminar（仓库路径 lmnrai/lmnr，官方域名 laminar.sh，品牌写作"Laminar"——注意跟流体力学的层流同名）是 为 AI Agent 量身打造的开源可观测性平台，由 YC S24 孵化的团队开发，Apache2.0 协议，主仓 ~3.1k Stars、TypeScript/Rust 混合栈，最近一次 release 验证于 20…
TruLens 是 TruEra 公司（已被 Snowflake 收购）维护的、面向 LLM 实验和 AI Agent 的评估与追踪框架。它做两件事： 1. Instrumentation（埋点）：用 OpenTelemetry 拦截你的 LLM / RAG / Agent 调用，把每一次 LLM 生成、检索、工具调用都落成结构化 OTEL span。 2.…
OpenViking 是字节跳动旗下火山引擎（Volcengine）开源的、面向 AI Agent 的「上下文数据库」（Context Database）。它用「文件系统范式（filesystem paradigm）」统一管理 Agent 运行所需的全部上下文：长期记忆（memory）、外部知识与资源（resources）、可调用的技能（skills）。 与…
Agenta 是一个开源的 LLMOps 平台，把 LLM 应用从原型到生产所需的四件事压在一个工作流里：Prompt Playground（交互式调试）、Prompt/Cofig 管理（带版本和分支）、LLM 评估（人评 + 自动评估 + LLMasjudge）、可观测性（Tracing、成本、延迟）。代码以 TypeScript 为主、许可 NOASSE…
Sakana AI 在 ICLR 2026 发表了一篇非常有意思的论文：让一个小模型学会当「指挥家」，而不是自己下场干活。 传统多智能体系统的做法是：人类预先写好流水线（planner → coder → verifier），然后让模型按这个固定流程走。问题在于：不同任务复杂度差异巨大——简单事实问答根本不需要 5 步 pipeline，而复杂编程题可能需要…
VLMEvalKit（Python 包名 vlmeval）由上海人工智能实验室 OpenCompass 团队开源，是大型视觉语言模型（LVLM / VLM）的事实标准评估工具包。它的口号是 "一命令评测 220+ LVLM、80+ benchmark" —— 用户只写一个 generate_inner()，剩下的数据下载、预处理、推理、metric 全部由框…
lmmseval（Python 包名 lmmseval，前身为 LMMsEval）是 EvolvingLMMsLab 维护的"统一多模态大模型评估工具包"。目标只有一个：让"同一个模型 + 同一个 benchmark + 同一套参数"在两台机器上跑出来数字一致，并且能覆盖文本、图像、视频、音频四大模态的 100+ 任务、30+ 模型后端。 它脱胎于 Eleu…
opendilab/awesomeRLHF 是上海人工智能实验室 OpenDILab 维护的 "RLHF 精选资源列表"，延续 awesome 系列的策展风格：把强化学习与人类反馈（Reinforcement Learning from Human Feedback）相关论文、代码库、数据集、博客、图书按时间线（2020 及以前 → 2026）梳理成一份可阅…
rasbt/reasoningfromscratch 是 Sebastian Raschka（Build a Large Language Model (From Scratch) 的作者）出版的第二本 Manning 图书 Build a Reasoning Model (From Scratch) 的官方配套代码仓库。整本书/仓库的目标是：从一个已经预训…
OASIS（Open Agent Social Interaction Simulations with One Million Agents）是 CAMELAI 团队开源的"百万级 LLM Agent 社交模拟器"。它不是单 Agent 框架，也不是 Chatbot 工具，而是一个离散时间步的社交媒体沙盘：用 LLM 驱动的"虚拟用户"，在仿 Twitte…
ReG（Refined Graphbased RAG）是一套针对图增强检索（RAG on Knowledge Graph）的框架，核心思路是用 LLM 的反馈信号来训练更好的图检索器，同时将检索结果重组为逻辑连贯的证据链。 论文标题全称：WeaktoStrong GraphRAG: Aligning Weak Retrievers with Large La…
awesomepretrainedchinesenlpmodels 是一个由个人开发者（lonePatient）维护的 GitHub 精选列表，收录高质量中文预训练模型、大语言模型、多模态模型及其相关资源。截至 2026 年 7 月 Stars 5574，是中文 NLP 领域最全面的开源模型索引之一。 仓库按模型类型和任务类型双重维度分类，涵盖从 2020 …
AwesomeLLMOps 是由 tensorchord 团队维护的 GitHub 精选列表（Awesome List），收录了 LLMOps（Large Language Model Operations）领域的优质工具、项目和资源。截至 2026 年 7 月已累计 5879 Stars，周增 +7，是目前最活跃的 LLMOps 专题列表之一。 LLMOp…
Agent Starter Pack（ASP） 是 Google Cloud 官方出的 生产级 GenAI Agent 模板项目：用 Python 包形式提供一整套「Agent + 后端 + 前端 + 部署基础设施 + 监控 + CI/CD」的项目骨架，让开发者只关心 agent 业务逻辑。 它支持多种 agent 框架 / 模式（自带模板）： 重要变更：R…
官方维护的 Amazon SageMaker 示例笔记本仓库，由 AWS SageMaker 团队直接管理。它不是 SDK 本身，而是 SageMaker 各功能（数据准备、训练、推理、监控、Feature Store、SageMakerCore、Studio 等）的 可运行 Jupyter Notebook 示范集合，覆盖从 XGBoost 入门到大规模分…
Chronos 是亚马逊科学团队开源的时间序列预测预训练模型家族，通过将时间序列 token 化后借助语言模型架构（类 T5）进行训练，实现零样本预测。整个家族经历三代演进： Chronos2（最新，2025年10月发布）：120M 参数 encoderonly 模型；支持单变量、多变量、以及带外生变量的协变量感知预测；上下文扩展至 8192 步、预测长度达…
ThinkingCapQwen3.627B 是由 BottleCap AI 发布的推理效率优化微调模型，基于 Qwen 团队 2026 年 4 月开源的 Qwen3.627B（稠密 27B 参数多模态模型，支持思维链推理与非思维推理双模式）进行微调，核心目标是：在保持答案质量和风格完全不变的前提下，系统性削减推理时的"思考 Token"数量。 原帖分享者 @…
ymcui/ChineseLLaMAAlpaca 是最早一批将 Meta LLaMA 模型中文化并开源的重量级项目。它的核心工作是两件事： 1. 中文词表扩充——原版 LLaMA 词表偏英文，中文编码效率极低（一个汉字 = 多个 subword），该项目将中文词表扩充至约 5 万 token，显著提升中文处理效率 2. 指令精调（Alpaca）——在扩充词表…