当地时间11月2日,高通对外发布消息,第一代高带宽计算(HBC)技术于美国圣迭戈实验室完成硬件验证,测试完成完整内存读写通路与近存计算能力验证。本次验证是HBC技术落地的关键工程节点,搭载该HBC架构的Dragonfly AI250 AI推理加速器,计划在2027年上半年启动出样,标志这套以LPDDR内存堆叠方案面向AI推理场景、替代HBM的技术路线进入产品化阶段。
HBC采用多层LPDDR内存堆叠于计算芯片上方的架构设计,面向AI推理场景,目标提升内存带宽、降低数据搬运带来的能耗。高通官方披露,搭载第一代HBC的AI250有效内存带宽为AI200的18倍;HBC方案每瓦带宽为HBM4的5倍以上。该方案依托近存计算架构,减少数据在存储与计算单元之间的传输开销,定位面向数据中心机架式AI推理业务。
本次硬件验证环节,高通工程团队使用标准化自动测试设备,在接近量产规格的条件下完成测试,测试过程采用随机权重与激活值,对HBC硅片的数据通路进行验证。高通公告表示,本次硅片验证结果证明HBC核心架构可以按设计目标运行,技术状态满足下一步产品集成的条件。
AI250属于高通飞龙Dragonfly系列机架级AI推理平台,整套平台采用液冷散热方案,支持PCIe横向扩展、以太网纵向扩展,配套机密计算能力。高通在今年6月的投资者日活动中,首次对外公布HBC架构与AI250产品规划,同期公布还有后续迭代的AI300产品路线。