AI 会自己写芯片“加速器程序”了?但关键不在会不会写代码

  • 关联论文:2609.04523

你有没有想过,大模型不只生成文字,还能直接帮你写出运行在 AI 芯片上的“加速器程序”?这类程序叫 kernel,它们负责让矩阵乘法、卷积、归约等计算跑得更快。它们不是普通 Python 脚本:既要算对,又要把数据安排得足够贴近芯片,才能真正提速。

问题在于,写高性能 kernel 很难。工程师需要理解内存怎么排布、数据搬运有多快、芯片到底有多少计算单元,还要不断试错。一个小改动,可能带来数倍性能差异;一个角落写错,程序甚至会算错。于是,行业长期以来都依赖少数硬件专家手工优化。

MaxKernel 做的事情,就是让多个 AI 助手组成一支“工程队”,自动完成“写代码—编译—找错—测试—测速—继续改”的循环。

它不是只让一个模型“一口气写完”,而是把任务拆开:有助手负责规划和拆解,有助手负责写 kernel,有助手专门读编译错误,有助手检查数值结果,还有一个负责到真实 TPU 上测性能。这样,每个角色只处理自己擅长的部分,出错时也更容易定位。

系统有三种用法。人机协作模式适合专家把关:AI 每完成一步,就让工程师确认;全自动模式适合批量生成,系统根据编译器和硬件测速结果自己反复调整;图搜索模式则把每次修改当成一个节点,探索更多“可能更快”的实现,避免只在一条死胡同里打转。

这套思路真正聪明的地方,不是让模型背硬件手册,而是把硬件知识变成实时反馈。编译器报错告诉它哪里写错了,测试结果告诉它数值是否正确,性能数据告诉它到底有没有更快。AI 不需要凭空猜“什么叫高效”,而是可以根据工具给出的事实改代码。

在 JaxBench 的 50 个 TPU 任务上,论文摘要称三种模式都能达到专家手调基线,并在真实开源模型工作负载上取得显著性能提升。开源仓库也提供了 Apache-2.0 代码。不过,现阶段仍要保持谨慎:摘要没有给出完整 speedup 数字,部分真实工作负载也没有公开名称,论文主要验证的是 TPU/JAX 生态,迁移到 CUDA、ROCm 还要重接编译器和性能分析工具。

这项工作重要,因为它展示了一条比“让 AI 写一段代码”更现实的路线:让 AI 负责探索,让编译器负责验错,让测试负责判真,让真实硬件负责打分。 未来芯片优化未必会完全不需要专家,但专家可能从“亲手调每一个参数”,转向“设计反馈系统、审核结果、处理异常”。对普通用户来说,这也意味着模型运行速度和成本的改进,可能越来越多地来自 AI 对底层基础设施的自动优化。

三个标题变体

  1. 数字钩子版:50 个 TPU 任务、3 种工作模式,MaxKernel 让 AI 学会自己调硬件程序
  2. 拟人化版:AI 也能当“芯片性能教练”?MaxKernel 组建了一支自动调优工程队
  3. 类比版:写代码像闭眼盲人摸象,MaxKernel 先让编译器给 AI 画一张实时地图

小红书风格卡片文案(可直接发布)

AI 不只会聊天,它现在开始自己优化 AI 芯片了!

高性能 kernel 是让大模型算得更快的一层底层程序。普通代码“能跑”还不够,还要让数据搬运、内存布局和计算单元都配合得上;写错一点,结果可能就不对。

MaxKernel 的办法:组建一支 AI 工程队👇

🧠 Planner:拆任务
💻 Implementer:写 kernel
🧯 Self-Debugger:读编译错误
✅ Tester:检查计算结果
📈 Hardware Profiler:上 TPU 测真实速度

然后不断循环:生成 → 编译 → 测试 → 测速 → 修改,直到性能达标。

更关键的是,它不是让 AI 背硬件教材,而是让编译器错误和真实硬件数据“现场教学”。这比只让模型凭空写代码靠谱多了。

论文称,在 JaxBench 的 50 个 TPU 任务上,3 种模式都能匹配专家手调基线,还在真实开源模型工作负载上观察到明显性能提升。开源代码已发布,Apache-2.0。

⚠️ 别急着欢呼:完整 speedup 数字、真实工作负载名称和跨平台迁移效果还需要进一步核验;目前最成熟的是 TPU/JAX 生态。

但方向很明确:未来 AI 基础设施的优化,可能不是工程师手调每个参数,而是人类设计反馈闭环,AI 负责大规模搜索。

你敢让 AI 直接改芯片底层程序吗?

AI工程 #TPU #JAX #大模型推理 #性能优化 #多智能体 #Kernel优化 #AI基础设施 #arXiv2609.04523 #每天学点AI