研究库 实战攻略
Guides · organized/guides

仓库攻略

8 篇 · 8 个项目 · LLM 基础设施 · spark · 多模态

Niko1221/Strata · 上手攻略
诚实标注 ⚠️:以下内容在本次抓取时未独立跑通——所有速度数字(93/74/2,170 tok/s 等)来自 README 自家基准;Coder "SWEbench Verified 91% / LiveCodeBench 99%" 来自 ISTADASLab 模型卡声称;AMD RDNA4 实验性标记来自 setup backend hip;"Experi…
LLM 基础设施 [Niko1221/Strata](https://github.com/Niko1221/Strata) spark 2026-10-01
NVIDIA-NeMo/DataDesigner · 上手攻略
⚠️ 本文所有命令与版本基于公开 README 与 NVIDIA 技术博客 20260709 复现表(PyPI 包名 datadesigner,复现版本 0.1.5),未经本机实跑;任何对 config_builder / ModelConfig API 的引用若与 README 冲突,以官方 docs.nvidia.com/nemo/datadesigne…
LLM 基础设施 NVIDIA-NeMo/DataDesigner Stars 2,264 spark 2026-09-22
kunpengtalk/OmniStudio · 上手攻略
OmniStudio 是一个本地优先的大模型一体化桌面工作台,由「鲲鹏Talk」开发并以 MIT 协议开源。它把"模型从哪里来、用什么引擎跑、怎么用起来"三件事收进一个 Electronlike 桌面应用(基于 Electrobun + Bun),把"模型市集下载、推理引擎管理、对话、语音、图片、视频、OCR、翻译、本地 RAG、共享记忆、MCP、Skill…
LLM 基础设施 kunpengtalk/OmniStudio Stars 108 spark 2026-09-16
内容待复核
nick7nlp/Awesome-LLM-On-Policy-Distillation · 上手攻略
一个面向 LLM「OnPolicy Distillation(OPD,在策略蒸馏)」主题的 curated 论文清单与配套综述生态。仓库本体是持续维护的论文列表与导航站,附带三件产出: 1. 一篇 70+ 篇 OPD 论文的 survey(arXiv:2604.00626,V4 / 20260618 发布); 2. 一个 OPDHub 静态检索站:按章节、l…
LLM 基础设施 nick7nlp/Awesome-LLM-On-Policy-Distillation Stars 568 spark 2026-08-27
roboflow/inference · 上手攻略
版本说明:仓库 README 中没有写死顶层版本号,文档站 inference.roboflow.com/using_inference/about 自称 "Inference 1.0",PyPI 上 inferencesdk 的最新轮转版本为 1.3.x(如 1.3.7)——下面的命令以当前 README 与 PyPI 通用写法为准,不写死小版本号,使用 …
LLM 基础设施 roboflow/inference Stars 2,411 spark 2026-07-30
pykeio/ort · 上手攻略
提示:仓库 README、API 文档链接均指向 ort 2.0 系列,本攻略以当前 main 分支为准(最新示例分支标签为 v2.0.0rc.13,来自仓库 docs 与 examples 中给出的克隆命令)。若你看到更新 rc tag,请以 crates.io 与 docs.rs 的最新版为准。 ort 是 Rust 生态里跑 ONNX 模型的主流 cr…
LLM 基础设施 pykeio/ort Stars 2,443 spark 2026-07-30
openvinotoolkit/openvino_notebooks · 上手攻略
提示:上游仓库标识写作 openvinotoolkit/openvino_notebooks(带下划线),按本攻略规则计算的文件 slug 为 openvinotoolkitopenvinonotebooks.md。下文中如出现"OpenVINO 2026.2"等版本号,均来自仓库当前 README,未在外部二次确认。 openvino_notebooks …
LLM 基础设施 openvinotoolkit/openvino_notebooks Stars 3,195 spark 2026-07-30
pytorch/ao · 上手攻略
torchao(即 pytorch/ao 仓库发布的 PyPI 包名)是 PyTorch 官方主推的 原生量化与稀疏化库,主打「训练推理一致」「一行代码改动即可接入」,覆盖从权重量化(int4/int8/fp8/NF4)、激活量化、2:4 稀疏、低比特 optimizer(4bit/8bit/fp8 AdamW)、量化感知训练(QAT),到 float8 预…
LLM 基础设施 pytorch/ao Stars 2,936 spark 2026-07-27