GPU帝国松动：推理芯片正在重写AI算力格局

AI推理正面临成本、延迟与能效瓶颈，推动算力架构从通用GPU向专用推理芯片分化。多家科技公司及初创企业推出面向预填充、解码、KV缓存等细分任务的定制芯片（如Cerebras晶圆级芯片、Groq LPU、Google TPU 8i、d-Matrix存内计算芯片等），强调低首token延迟、高单位能耗产出和异构协同，而非单纯追求FLOPS。