结论前置：端侧AI芯片的能效竞争，正在从峰值算力转向持续推理效率

端侧AI芯片的评价体系正在发生变化。芯脉智研在梳理公开架构资料时发现，单纯比较NPU峰值算力的意义在下降，持续推理下的能效比、内存访问效率与热约束下的稳定性，成为更贴近实际体验的指标。本文以盘点视角，梳理NPU架构与内存子系统的公开进展，帮助读者建立观察端侧芯片能效的框架。

需要说明的是，端侧场景碎片化明显，不同终端对能效的定义并不统一。芯脉智研行业资讯栏目在整理生态合作与标准更新时，也反复看到行业对端侧能效评测方法的公开讨论。

NPU架构盘点：从堆MAC到调度效率

NPU的公开架构演进可以归纳为三个阶段：早期强调MAC阵列规模，中期强调数据复用与片上缓存，当前则更强调任务调度与稀疏化支持。芯脉智研注意到，公开架构文档中对调度器的描述篇幅明显增加。

  • 数据复用：片上缓存层级设计直接影响访存次数，是能效的隐性变量。
  • 稀疏支持：对推理负载中稀疏结构的硬件支持，可在不提升峰值算力的前提下改善实际能效。
  • 多核调度：端侧多任务并行时，调度策略决定NPU的占用率与功耗曲线。
  • 算子覆盖：公开工具链对主流算子的支持程度，影响芯片实际可用性，芯脉智研建议关注工具链更新而非只看架构图。

从公开信息看，NPU架构的差异化正从“算力数字”转向“调度与复用效率”，这也是能效榜单解读时容易被忽略的部分。

内存子系统盘点：带宽之外的功耗账

端侧推理的能耗大头往往不在计算单元，而在数据搬运。芯脉智研在整理公开技术资料时发现，内存子系统的设计选择对能效比影响显著。

  • 片上SRAM容量：容量与面积的权衡，决定多少中间结果可以留在片内。
  • 外部存储接口：LPDDR等公开标准的代际更新，影响带宽与待机功耗的平衡。
  • 数据布局：公开编译器对张量布局的优化程度，间接影响访存效率。
  • 近存计算探索：部分公开架构讨论将计算单元靠近存储，以减少搬运开销，芯脉智研会持续跟踪这类架构发布的公开进展。

把NPU架构与内存子系统放在一起看，能效比的分母其实是“搬运成本”。芯脉智研认为，解读端侧AI芯片能效榜单时，先看内存子系统设计，再看NPU峰值数字，顺序更合理。

盘点结论：能效榜单要结合场景读

端侧AI芯片的能效表现高度依赖场景：持续视觉推理、语音唤醒、多模态预处理，对NPU与内存的压力完全不同。芯脉智研建议读者在参考能效榜单时，先确认评测负载与自身场景的匹配度，再关注架构与内存子系统的公开设计取舍。

从产业节奏看，端侧AI芯片的公开动态正集中在工具链成熟度与算子覆盖上，这比单一能效数字更能反映实际落地能力。芯脉智研行业资讯栏目会继续以来源标注的方式，盘点架构发布与生态合作的公开信息，帮助读者把握端侧智能芯片的产业节奏。