随着AI运算规模持续扩张，内存容量与带宽需求节节攀升，现有GPU搭配高带宽内存的架构逐渐触及性能天花板。据ZDNet援引韩国头部存储厂商研发人员表述，存储与封装企业正研讨全新设计思路，计划将GPU和HBM拆分至独立封装体中。
常规方案里HBM紧贴GPU排布，新架构摒弃这一模式，改用光链路实现二者数据互通，理论上可让GPU挂载的HBM容量数倍于现有产品规格。
行业以往主要依靠增加垂直堆叠层数提升HBM容量，当堆叠规格从12层、16层迈向20层及以上时，制造难度大幅攀升，物理层面的设计局限也愈发难以突破。倘若堆叠层数后续无法继续增加，业界也曾尝试在GPU周边横向增设HBM单元扩充容量，但当前主流2.5D封装架构下，芯片集中布置在同一块载板之上，GPU外围可容纳的HBM数量存在硬性边界，横向扩容同样走到瓶颈。
在此背景下，GPU与HBM分封装的技术方案受到广泛关注。该思路打破芯片紧邻排布以降低延迟的固有设计逻辑，在物理空间上将两类芯片分开布局，借助高速光信号抵消传输距离拉长带来的影响。
业内还针对显卡内部HBM摆放位置规划多种架构方向，既有充分利用GPU周边空余空间的方案，也考虑将HBM安置在显卡底部独立区域。后者需要纵向拓展主板结构，相关方案也在和显卡厂商协同探讨整机形态改动可行性。
全新架构将重塑封装与互联设计体系，半导体封测企业也密切跟踪这一技术趋势，尤其关注光互联技术落地带来的行业变化。
GPU与HBM之间的光互联技术原理，和数据中心服务器间光通信相通，核心难点在于把大型系统级光子技术压缩至单块板卡、芯片组的微观尺度。狭小空间内搭建HBM光链路，要求光子器件进一步缩小体积、提升集成密度，整体技术研发挑战较大。
