资讯中心

从训练走向推理:寅谱如何用“算法定义硬件”重塑AI存储?


2026/10/12 AI芯片 admin

随着生成式AI大模型与高性能计算的爆发,传统存储架构在面对海量数据搬移与频繁访存时,正面临严峻的性能与功耗瓶颈。近日,寅谱联合创始人兼CTO熊巍博士,围绕其在AI SSD、算存融合芯片以及软硬件协同设计等领域的布局,分享了寅谱对AI推理时代下存储技术革新路径的深刻洞察。

多元AI应用场景驱动:NAND容量扩展新需求

“AI应用的落地都对内存容量与存储结构提出了全新要求。”熊巍首先指出了市场需求的变化。他表示,在PC等个人终端领域,AI应用场景目前主要以单请求、低并发为主;而在车载与智能驾驶领域,需求则显得更为多元且复杂,涵盖了自动驾驶、计算机视觉模型以及车载视觉大模型等多重形态。

熊巍强调,不论应用场景如何演变,AI模型的容量压力需借助NAND存储介质来进一步扩展内存容量,这种方式是突破当前硬件限制的关键解法之一。

核心竞争理念:软件/算法定义硬件设计

区别于传统国际存储巨头单纯聚焦于存储介质或主控芯片本身,寅谱提出了“软件定义硬件”与“算法定义硬件”的设计思路。熊巍解释,这一理念的背后,是AI产业从“训练时代”向“推理时代”深刻转变的必然结果之一:

·训练时代的局限:过去,AI硬件高度趋同,以GPU为绝对主导,相关训练算法主要围绕GPU的架构特性进行优化。

·推理时代的新焦点:熊巍指出:“现在,市场的焦点已经转向了‘推理经济性’。业界不仅关注每秒产生的Token数,更极度关心每美元成本所能换取的Token数量。”

为达成极致的推理经济性,熊巍认为推理硬件必须高度契合大语言模型推理(如Attention计算、Prefill预填充阶段以及Decode解码阶段)的物理计算特征。寅谱正是从系统架构层面出发,针对大模型推理算法特征指导SoC及整体硬件设计,从而筑起了与传统存储大厂显著的差异化竞争壁垒。

算存深度融合:解锁大模型推理降本增效

在探讨LLM推理过程(尤其是Decode阶段)时,熊巍指出了一个核心痛点:“大模型的权重数据需要频繁地从存储介质搬移至计算单元。如果单纯堆叠计算能力或存储容量,都会因系统的带宽瓶颈而导致较高的成本。”

为此,寅谱从创立之初便致力于解决推理层面的降本增效问题。熊巍表示,无论是早期优化的主板智控、研发ASIC推理芯片,还是现在推出的AI SSD,皆是服务于同一目标在不同阶段的产品呈现。他强调:“在软件与算法层面,存与算并非割裂,而是需要通过精细匹配‘算’与‘存’的比例,使系统整体发挥出最大效益。”

开放协同:定位产业链“架构与解决方案”输出者

面对漫长的半导体产业链及上下游企业的技术壁垒,熊巍明确了寅谱的定位:“我们发挥自身在IC设计、高性能计算(HPC)及大模型领域的技术积累,主导产品定义与硬件架构设计。”

在产业生态合作上,寅谱选择与产业链上下游强强联合:

·主控与算法合作:与联芸科技等主控芯片厂商深度合作,充分利用其在磨损均衡、SLC Cache控制及可靠性保障上的成熟技术。

·晶圆与原厂合作:积极与NAND Flash原厂及系统整机厂商建立伙伴关系,共同推动AI基础设施生态的落地与繁荣。

从训练跨入推理,AI产业正经历从单纯追求绝对算力峰值向精细化“计算/存储ROI”的深刻演进。在这个存算融合与存储架构重构的关键节点,以寅谱为代表的新锐力量,凭“算法定义硬件”的前瞻视角打破传统硬件束缚,不仅为算存瓶颈提供了降本增效的破局解法,更为本土半导体生态协同注入了强劲动力。


上一则
应用材料硅谷EPIC中心揭幕,50亿美元搭建联合研发平台
下一则
立川半导体设备研发生产基地在张家港高新区开工,项目总投资10.5亿元