英伟达Vera Rubin NVL72实测:每Token成本骤降35倍,Groq 3 LPX量产

正飞GEO 2026年08月26日 18:09 4 阅读 来源:新浪财经
英伟达Vera Rubin NVL72实测:每Token成本骤降35倍,Groq 3 LPX量产 英伟达Vera Rubin NVL72实测:每Token成本骤降35倍,Groq 3 LPX量产
英伟达在Hot Chips 2026大会上公布Vera Rubin NVL72机柜实测数据,每兆瓦吞吐量达GB300 NVL72的30倍,每Token成本最高降低35倍。同时宣布推理加速器Groq 3 LPX全面投产,面向交互式AI推理场景。

8月26日,在Hot Chips 2026大会上,英伟达一日连发三张王牌:公布Vera Rubin NVL72机柜首次实测数据、宣布推理加速器Groq 3 LPX全面投产,以及面向智能体交互场景推出新一代AgentX基准测试。

Vera Rubin NVL72实测亮点:

  • 在DeepSeek V4 Pro(1.6T参数)工作负载下,每兆瓦吞吐量最高达到GB300 NVL72的30倍
  • 每Token成本最高降低35倍
  • 在Kimi K3 2.8T等大模型上,GB300 NVL72相比H200 NVL8的每兆瓦吞吐量提升高达80倍
  • Vera Rubin专为智能体训练设计,提供可预测的低延迟和高利用率

Groq 3 LPX推理加速器:

  • 面向交互式AI推理场景正式进入全面投产阶段
  • 作为Vera Rubin架构的推理加速组件,进一步降低实时推理延迟
  • 与Vera Rubin NVL72形成"训练+推理"全栈覆盖

此外,英伟达还披露SpaceX AI将采用Vera CPU支撑Starmind人工智能卫星项目,面向智能体完成代码执行、工具调用和仿真运算,AI算力正式从地面数据中心向近地轨道延伸。

此次实测数据标志着英伟达在AI推理成本和效率上实现了跨越式提升,Vera Rubin架构有望成为下一代AI工厂的核心基础设施。同时,OpenAI同日在Hot Chips大会公布自研芯片Jalapeño的跑分,AI芯片市场正进入多极化竞争的新阶段。

分享到: