IBM与AI初创企业Together AI于周二（8月11日）宣布，双方已签署一项总额达2.4亿美元的多年期协议，将在IBM Cloud上建设大规模人工智能（AI）集群，并采用英伟达（NVIDIA）系统，为开源AI模型提供推理服务。
随着企业寻求降低AI成本，同时也开始关注Anthropic、OpenAI与Meta等厂商模型近期涉及的网络安全事件，开源AI模型的采纳度持续提升。
所谓的推理，是指运行已训练完成的AI模型以生成响应的过程，目前已成为算力需求增长的主要驱动力之一，也促使云服务提供商与芯片厂商投入数十亿美元，持续扩大AI基础设施。
这座部署于IBM Cloud上的AI计算集群将采用英伟达HGX B300系统。该系统整合了英伟达新一代Blackwell处理器，并搭配英伟达Spectrum-X以太网网络设备。英伟达曾表示，Blackwell芯片针对AI推理工作负载进行了深度优化。
Together AI首席营收官（CRO）Kai Mak在接受路透社采访时表示，初期集群将配置约2000块英伟达Blackwell 300芯片，并部署在美国。
Mak预计，在正式上线前至少2至3个月，这些算力资源就会被预订一空。这套系统在正式投入服务前，就会收到全部订单。
Together AI总部位于旧金山，主要提供AI平台，让企业能以低于封闭式AI系统的成本，训练及运行DeepSeek、MiniMax与Kimi等模型的AI工作负载。Together AI今年7月完成新一轮融资后，最新估值已达83亿美元。
