英伟达Blackwell登顶首个智能体硬件基准：能效超H200达20倍，力压AMD

据动察 Beating 监测，评测机构 Artificial Analysis 发布行业首个智能体（Agent）硬件基准 AA-AgentPerf。传统评测如同单次问答「短跑」，只看响应速度；智能体任务则像「接力跑」，AI 需自主拆解目标，在读写文件、改写代码、运行测试中反复流转。频繁交互对服务器内存容量和调度效率挑战极高。基准通过重放真实编程轨迹，以「每兆瓦功耗支持并发智能体规模」为核心能效指标，直击数据中心电力与资金瓶颈。 首期测试运行 1.6 万亿参数开源模型 DeepSeek V4 Pro。结果显示，英伟达 Blackwell 液冷整柜系统 GB300 NVL72 每兆瓦功耗可承载 6.14 万个并发智能体，而上一代 Hopper HGX H200 仅能支持 2600 个，能效提升超 20 倍。单显卡并发容量也提升了 41 倍。这使得在同等电力预算下，数据中心可多承载 20 倍智能体并发规模，大幅拉低自动编程和客服等应用落地成本。 首批成绩中，AMD Instinct MI355X 暂时落后。评测机构指出，AMD 与 H200 配置均使用通用开源 vLLM 框架搭建，未作深度优化；随着服务框架与内核算子适配跟进，AMD 性能仍有提升空间。目前，Together AI 等推理商已率先在 Blackwell 部署 DeepSeek V4 Pro，为智能体编程工具 Cursor 提供实时推理支持。

「查看原文」