当地时间8月24日周一,英伟达对外宣布Groq 3 LPX机架系统进入全面量产阶段,标志着去年价值200亿美元的Groq技术相关交易,完成技术层面的商业化落地。这套面向AI智能体低延迟推理的机架产品,将作为Vera Rubin平台重要组成部分,补齐GPU在token生成环节的性能短板。
英伟达高级总监Dion Harris对外透露,Groq 3 LPX机架首批将部署在云服务商Nebius平台,和Vera CPU、Rubin GPU组成完整异构算力集群,整套系统预计在2026年下半年正式上线对外提供服务。单台LPX机架集成256颗Groq 3 LPU语言处理单元,依靠片上大容量SRAM减少外部内存访问开销,专门针对大上下文、高实时性的智能体、AI编程等推理场景做优化。官方基准测试数据显示,在10万token超长上下文下运行Gemma 4 31B模型,该机架可实现每秒3400 token输出,在延迟敏感类任务上相较竞品拉开明显差距。
回溯交易背景,2025年12月英伟达与Groq达成总对价200亿美元的合作,获取Groq芯片架构技术授权,同时吸纳创始团队与核心工程人员加入英伟达,也是英伟达发展史上规模最大的一笔技术交易;Groq主体公司依旧保持独立运营,原有云业务继续开展。在此之前,Groq凭借LPU低延迟推理方案,在开源大模型推理赛道已经积累不少行业关注度。
从架构分工来看,Vera Rubin平台采用异构拆分推理思路,Rubin GPU负责模型预填充、大规模上下文处理;Groq 3 LPX聚焦解码阶段高速token生成,Vera CPU承接工具调用、代码执行等通用计算任务,不同硬件各司其职完成AI智能体完整工作流。芯片制造环节也体现供应链差异,Groq系列LPU由三星代工,英伟达主流GPU则依托台积电产线完成生产。