AI推理转向边缘，存储架构面临重构

边缘推理改变存储需求

AI算力重心正从数据中心训练转向网络边缘与物理AI终端，这一变化对存储架构提出全新要求。边缘设备的算力与存储资源有限，而传感器持续流式采集的数据量巨大，如何判断哪些数据留存、哪些丢弃、哪些实时运算，成为系统设计的核心难题。行业逐渐形成共识：缩短计算单元与存储之间的传输距离，是降低功耗、削减延迟的最直接路径。

楷登电子（Cadence）产品管理总监Frank Ferro指出，大模型部署到实体硬件设备，倒逼所有人重新设计存储架构，核心问题在于如何切分模型，让处理器和存储子系统整体性能最大化。

近存与存内计算的技术路线

解决数据搬运瓶颈需要多条技术路线并行：近存计算（PNM）将计算单元放在存储数据附近，存内计算（PIM）则直接在存储阵列内部完成运算。SK海力士高级副总裁Hoshik Kim表示，近存计算仍使用外部通道接口，但把计算单元放在存储附近可大幅削减数据搬运、提升能效，同时分担CPU/GPU压力。典型方案是在基底裸片内置存储控制器，集成轻量化近存计算单元承接简单乘累加（MAC）运算，复杂任务仍交给GPU。

三星已发布LPDDR6-PIM架构与性能指标，面向低功耗移动端端侧AI。定制HBM4/HBM4E则因基底裸片采用逻辑工艺、原生集成SRAM，适合部署SRAM存内计算宏单元，直接在阵列内完成乘累加，权重无需反复搬运。

软件与标准化短板

硬件路线逐渐清晰，软件生态却明显滞后。SK海力士Kim认为，PIM的可行性已验证，真正难点是编译器框架与系统软件。楷登电子Kos Gitchev补充，现有操作系统与编译器均围绕处理器执行所有任务构建，要把部分计算卸载到存储，整套基础设施都需改造；芯片内部还缺乏成熟的事务机制，让处理器通过片上网络向存储下发计算指令。

是德科技Randy White指出，PIM裸片呈棋盘式重复结构，访存与计算强耦合，调度同步逻辑复杂度急剧上升。Rambus的Steven Woo则表示，行业很难收敛到单一编程模型和一致性方案，高性能库成为兼顾可移植性与性能的折中手段。

热管理成为物理瓶颈

计算靠近存储减少数据流量，却放大热约束。Vinci的Satish Radhakrishnan指出，HBM堆叠、定制HBM、近存/存内计算等方案把带宽瓶颈转化为物理瓶颈，算力与存储堆叠使热量集中在最难散热区域。存储厂商因此同步推进热技术：SK海力士推出集成冷却单元的iHBM，美光规划带散热设计的vHBM，三星则依靠混合铜键合与热通路块方案。

SK海力士Kim提出，可利用存内计算缓解HBM基底裸片发热——其功耗极低，适合部署在基底裸片与存储底层。

结语

AI推动算力向存储靠拢，但靠近本身不自动兑现性能收益。规模化落地取决于负载与硬件匹配、热管控，以及编译器与操作系统能否提供调度工具判断哪些任务适合卸载。对PCB与封装环节而言，异质堆叠、微米级互连带来的热机械应力与翘曲问题，正从芯片内部向封装、基板层层传导，成为先进封装设计中不可回避的约束。

来源：电子产品世界 EEPW