llmpaperdaily 是一个每日自动化的 LLM / Agent 论文日报仓库，由作者 xianshang33 维护。它通过仓库内置的 GitHub Actions workflow（/.github/workflows/）从 arXiv 抓取与 LLM、Agent 相关的最新论文，做中文摘要后写入两个镜像目录： summary/：中文版论文摘要（Ma…
仓库攻略
8 篇 · 8 个项目 · 工程化 · spark · LLM 基础设施
llmd 是一个 CNCF Sandbox 级的开源项目，定位是在 Kubernetes 上跑"生产级"大模型分布式推理。它本身不是一个模型服务器（model server），而是架在 vLLM / SGLang]( 之上的编排与优化层——把推理服务拆成 prefill（首 token 阶段）/ decode（增量 token 阶段）、分层 KV cache…
FastVideo 是 MBZUAI Hao Zhang 实验室主导的"统一视频生成推理 + 后训练（蒸馏/微调）框架"。它不是某个视频生成模型本身，而是一套面向 DiT 类视频扩散模型（Wan、Mochi、Hunyuan、CausalWan 等）的训练蒸馏推理一站式底座，目标是让视频生成既能微调，又能跑得快、跑得便宜。 仓库内同时包含 4 个层次的产出： …
Apache Hamilton（incubating）是一个轻量的 Python 库，用"Python 函数即节点"的方式构建数据转换 DAG。它的核心思路是：你写普通的 Python 函数，函数参数的名字 = 它依赖的上游节点名，Hamilton 自动把这些函数拼成 DAG、并按依赖顺序执行。 举例： import pandas as pd def sig…
LoRAX（LoRA eXchange）是 Predibase 开源的 多 LoRA 适配器推理服务器，目标是在一张 GPU 上同时服务成百上千个微调后的 LLM，而吞吐和延迟几乎不打折。它通过"动态加载适配器 + 异构连续批处理 + 适配器交换调度"三大机制，让一份基座模型（如 Mistral7B、Llama3、Qwen）被数千个不同任务的 LoRA 适配…
opendilab/awesomeRLHF 是上海人工智能实验室 OpenDILab 维护的 "RLHF 精选资源列表"，延续 awesome 系列的策展风格：把强化学习与人类反馈（Reinforcement Learning from Human Feedback）相关论文、代码库、数据集、博客、图书按时间线（2020 及以前 → 2026）梳理成一份可阅…
rasbt/reasoningfromscratch 是 Sebastian Raschka（Build a Large Language Model (From Scratch) 的作者）出版的第二本 Manning 图书 Build a Reasoning Model (From Scratch) 的官方配套代码仓库。整本书/仓库的目标是：从一个已经预训…
《后端架构师技术图谱》是一份纯中文的 Awesome 列表资源，结构上把后端架构师应当掌握的所有知识点组织成一张可跳转的目录树，覆盖从基础的数据结构与算法、Java 并发、操作系统、设计模式，到中间件（Web Server / 缓存 / 消息队列 / RPC / 数据库中间件 / 配置中心 / API 网关 / 日志系统）、网络协议、数据库（MySQL、No…