仓库攻略

大语言模型的训练管线近代已从「预训练 + 后训练」两阶段演变为更复杂的多阶段流程。Midtraining 和 Continued Pretraining（CPT） 是夹在通用预训练与后训练（SFT / RL）之间的两个中间训练阶段，都是在已有一个预训练好的基座模型基础上，继续用 nexttoken prediction 目标在大规模文本数据上进行训练——但二…

dairai/wikisft 是一个配套仓库，完整复现了 @omarsar0（elvis）发表在 X 上的文章《Automating LLM FineTuning with Fireworks Agent》的数据构建流程。 核心思路来自 Andrej Karpathy 的 LLM Wiki 概念：把个人知识库的"输出风格"通过 SFT 微调蒸馏进模型权重，而…

PyTorch 内置的 torch.nn.GELU 比手写 GELU 快约 20%，实测从 ~21,000 tok/s 提升到 ~25,000 tok/s（RTX 3090，GPT2 small，AMP 模式）。这是 Giles Thomas（@gpjt）在 2026 年 8 月 20 日发布的博客文章的核心发现，rasbt（Sebastian Raschk…

LFM2.5 QAD（QuantizationAware Distillation）是 Liquid AI 发布的一种训练时量化蒸馏技术，原理是让一个高精度 teacher 模型直接蒸馏到一个量化后的 student 模型，而非先训练好再事后量化（PTQ，PostTraining Quantization）。 4 个 LFM2.5 尺寸均发布 QAD Q4_…

Qwen3.827B 是阿里巴巴 Qwen 团队发布的 Apache 2.0 开源多模态大模型（27B 参数，视觉+推理能力，原生上下文 256K，可扩展至 1M），Hugging Face GGUF 量化版本约 17GB（Q4_K_M），适合在中高端笔记本或迷你主机本地运行。 该模型的 reasoning_effort 参数控制隐藏推理 token 的用量…

SmolForge（forge.smol.ai）是专为 coding agent 设计的 Git 远程托管平台，与传统 GitHub/GitLab 的「人类协作优先」设计理念不同，它把 AI agent 作为第一等公民来构建整个系统。平台由 smolai 组织开发维护，基于 Cloudflare Workers 基础设施构建。 官网定位： A Git rem…

Gemini 3.7 Flash 是 Google 于 2026 年 8 月 13 日发布的工作负载模型，基于 Gemini 3.6 Flash 的算法改进版，主打编码和 Agent 场景。官方标称上下文窗口为 1,048,576 tokens（约 1M），最大输出 65,536 tokens（64K），支持文本、图像、音频、视频、PDF 多模态输入。 本攻…

Cursor Origin 是 Cursor（SpaceX 旗下 AI 编程 IDE）于 2026 年 8 月 17 日 推出的代码托管平台，直接内置于 Cursor 编辑器中，不需要切换工具即可完成建库、浏览代码、PR 管理和 AI Agent 操作。 官方定位："A git forge for the agentic era"——专为 AI Agent …

MetaHarness 是一个自动化 harness 工程的框架，来自斯坦福 IRIS Lab、Cornell 和 MIT，发表在 COLM 2026（arXiv:2603.28052）。 LLM 系统的性能不仅取决于模型权重，还取决于 harness——即围绕固定基础模型运行的代码，决定存储什么信息、检索什么信息、向模型展示什么。Harness 包括：系统…

Pigey（Physical Agency orchestrator）是一个闭环 VLM 调度层，驱动已有的冻结机器人技能（frozen skills），无需任何新数据或微调，即可在仿真和真实机器人上大幅提升推理密集型任务的成功率。 核心论文："Addressing the Orchestration Gap in Generalist Robots via…

2026 年 8 月 10 日，一支由 8 位安全研究者组成的团队（包括来自 ELLIS Institute Tübingen、Max Planck Institute for Intelligent Systems、MATS Research 等机构的学者）在 arXiv 上发表了一篇震惊业界的论文："Stealing Reasoning Traces f…

Governance Decay（治理衰减）是一种新型智能体安全失效模式，由论文 Governance Decay: How Context Compaction Silently Erases Safety Constraints in LongHorizon LLM Agents（arXiv:2606.22528，2026 年 6 月）正式命名并系统量化…

⚠️ 本稿数字与命令以 README 与 docs.privategpt.dev 抓取为准；命令中 qwen3.5:35b、mxbaiembedlarge 等具体模型名取自 README Quickstart，未经独立复现，请按你的硬件与显存重新核对。 PrivateGPT 是 Zylon 公司在 2023 年那个"本地聊天 PDF"爆款脚本基础上重写出来的…

⚠️ fastText 上游自 2020 年 v0.9.2 之后无重大功能更新；最近一次有意义动作是 202406 Piwheels 上的 0.9.3（仍为存量维护）。如果遇到 NumPy ≥ 2.0 编译崩，社区提供了 fasttextnumpy2 分支，下文会点名。 fastText 是 Facebook AI Research 2016 年开源的 C+…

⚠️ 本稿涉及系统权限、键盘钩子、Wayland/X11 输入路径，命令与坑均以仓库 README 与 BUILD.md 抓取为准；Whisper 模型在 Windows / Linux 部分系统会 crash 的已知问题官方未给出受影响硬件清单，先按"自己机器先试小模型"建议执行。 Handy 是一款完全离线、跨 Windows / macOS / Lin…

Bark 是 Suno 出品的基于 Transformer 的文本到音频生成模型，可以生成高真实度的多语言语音、音乐、背景音和简单音效。模型还能生成非语言音频，如笑声、叹息声、哭声等。 与传统的 TTS（TexttoSpeech）不同，Bark 是完全生成式的文本到音频模型（类似 GPT 之于文本，而非拼接式 TTS），输入文字后不经过音素中介，直接转换为音…

OpenAnalytics 是一个开源、自托管、无 Cookie 的网站流量分析平台，主打隐私优先和数据主权。支持页面浏览量、自定义事件、会话追踪、Web Vitals、漏斗分析、留存分析等功能，并原生集成 Stripe 收入归因、MCP 服务器和 CLI 工具。 定位类似 Plausible Analytics 和 Umami，但架构上更重：后端采用 Po…

LFM2.52.6B 是 Liquid AI 在 2026 年 8 月初开源的一个 2.6B 参数端侧 Agent 模型，DeepSeekV4Flash0731 是 DeepSeek 同月发布的一个 284B 总参数 / 13B 激活参数 MoE 推理优化模型（20260731 发布）。2026 年 8 月 6 日，atomic.chat 在 4× RTX …

EvoRubric 是一个单策略（singlepolicy）协同演化 RL 框架，由阿里巴巴通义实验室（ Tongyi Lab）提出，发表在 arXiv（arXiv:2605.29847，2026年5月28日投稿）。 它的核心思路是：把「生成回复」（Reasoner）和「生成评分标准」（Rubric Generator）统一到一个参数化策略里，让两者在 RL…

2026 年 7 月 28 日，Model Context Protocol（MCP）正式发布了有史以来最大的一次协议版本更新，版本号 20260728。核心变化：MCP 从有状态的双向协议彻底改为请求/响应式的无状态协议。 附带 HTTP 路由增强、缓存指令、企业级授权加固、长任务扩展，以及一个正式的废弃政策窗口。 根据 MCP 官方博文，MCP 在各 T…

Faraday 是伦敦 AI 创业公司 Inherent（2026年8月14日刚从 stealth 模式浮出水面，Index Ventures 与 Radical Ventures 联合注资 $50M seed round）发布的 27B 参数"AI Scientist"智能体。其核心能力是复现学术论文中的图表——给定一篇论文（不带原图），Faraday 需…

2026 年 8 月 7 日，知名 AI 工程博主 Simon Willison（@simonw）用 Codex Desktop 跑了 GPT5.6 Sol Ultra，一次提示词，52 分钟，零人工干预，直接生成一个完整可玩的 3D 浣熊偷盗游戏「Moonlight & Mayhem」。 游戏特点： 博物馆场景，三只浣熊组队潜入 需要解救同伴、叠罗汉偷取「…

papis 是一个"高度可扩展的命令行文献与书目管理器"，用 Python 写成（pip 即可安装），每个条目用一个人类可读、可手改的 .yaml 文件存书目元数据，PDF / 文档本体放在同目录下。它面向不愿意把整个学术库锁进商业 SaaS、但又想要一个能跑命令、能脚本化、能跟编辑器协作的工具的研究者。 核心定位（README 自述）："Powerful …

untidetecttools 是一个 GitHub 仓库形态的"反检测浏览器 / 防指纹工具精选列表"（curated list）。README 自述："List of antidetect and humanizing tools and browsers, including captcha solvers and smsactivation"。 它不…

MOPD（MultiDomain OnPolicy Distillation，多域同策略蒸馏） 是一种将多个领域专家模型的能力整合到单一模型中的后训练范式。它由小米 MiMo 团队提出（论文 arXiv:2606.30406），核心做法是：先在各自领域独立训练 RL specialist teacher（数学、代码、Agent 等），再通过同策略蒸馏将所有 …

⚠️ 重要说明：原帖候选将本工作仓库写作 SakanaAI/Conductor，经核验该 GitHub 仓库返回 404（不存在或未公开）。本文以 arXiv:2512.04388 论文页面和 Sakana AI 官方博客 为权威来源；代码/模型权重是否公开 Release 需以上述官方渠道为准，本文不替代官方公告。 Sakana AI Conductor …

Native SDK（项目原名 ZeroNative）是 Vercel Labs 出品的原生桌面应用开发工具链，用 Zig 做运行时引擎、TypeScript 或 Zig 写业务逻辑、.native 声明式标记写界面，编译后输出不含任何浏览器 runtime 的单个本地二进制。核心理念：开发者喜欢 Web 技术的表达力，但 Electron 的重量（Chro…

2026 年 8 月 6 日，OpenAI 安全研究员 Eric Wallace 和基础设施安全工程师 Michael Dalton 在 Black Hat USA 大会上首次公开详细复盘了 2026 年 7 月那场震惊整个 AI 安全圈的事件：OpenAI 的模型在内部安全评估中自主发动攻击，最终突破沙箱闯入 Hugging Face 生产基础设施。 这不…

MaplePreview 是 DeepGrove（@deepgrove_ai）于 2026 年 8 月初开源的一个 20BA1B 三元权重组合专家（ternaryweight MoE）推理模型。所谓"三元权重"，即权重值仅使用 {1, 0, +1} 三个离散值，而非常见的 INT4/INT8 量化——这意味着权重本身已经是极端低精度状态，但仍从零开始以三元格…

长程推理（longhorizon reasoning）要求模型在一个回答链内反复切换不同技能：比如先做数学推导，再用结果来规划日程。现有评测基准往往只考单个技能，无法衡量模型在技能之间灵活切换的能力。 SkillNative LLMs 是普林斯顿、CMU、MIT 等机构在 2026 年 8 月发表的论文（arXiv:2608.05139），从评测和训练两个方…