英伟达宣布 Groq 机架全面量产，将部署于 Nebius

火星财经消息，英伟达高级总监 Dion Harris 当地时间周一宣布，Groq 3 LPX 机架已进入全面量产阶段，并将部署在新型云服务商 Nebius 的数据中心，预计今年晚些时候上线。此举标志着英伟达去年 12 月与 Groq 达成约 200 亿美元技术授权交易后所获技术正式实现商业化，多位 Groq 核心员工已加入英伟达，创始人 Jonathan Ross 担任英伟达首席软件架构师。英伟达正加速生产 Groq 芯片并向客户提供产品，凸显低延迟推理的重要性。今年 3 月发布的 Groq 3 LPX 为 Vera Rubin 平台推理加速器，架构在芯片裸片上集成 500 兆字节高速 SRAM，以减少内存瓶颈。每个 LPX 机架可整合 256 颗 Groq 3，英伟达援引基准测试称每秒可处理 3400 个 token；该芯片由三星制造。Harris 表示，低延迟芯片并非取代 GPU，而是针对工作负载不同环节使用合适处理器，云服务商可对延迟敏感用户提供更高收费套餐。英伟达 CEO 黄仁勋计划将面向编程应用的数据中心空间约四分之一分配给 Groq 芯片，其余部分采用 Vera Rubin 系统，并预计到 2027 年 Blackwell 与 Vera Rubin 累计销售额达 1 万亿美元。