2026年6月的最后一周,AI产业出现了三则重磅的消息:一是英伟达召开股东大会高调宣讲“AI工厂”叙事;二是OpenAI联手博通发布首款自研推理芯片Jalapeño;三是高通推出面向AI数据中心的高带宽计算架构HBC及Dragonfly产品组合。三巨头同日竞逐,背后指向同一个产业判断:AI算力的竞争,已从单一的GPU竞赛,全面进入GPU、ASIC、CPU、内存、网络和软件生态共同竞争的新阶段。
这一转变,并非偶然。当大模型参数规模暴涨百倍、上下文窗口从万字级拓展至百万字级,而服务器内存带宽年均提升不足15%时,单一芯片的算力堆叠已触达物理极限。为此,AI算力正在经历一场深刻的重构——从堆GPU走向系统的比拼。
GPU已经不再是AI算力的主要瓶颈
过去几年,AI产业主要面临的问题的GPU算力不够。但进入2026年,这套逻辑正在改写。
第一个瓶颈便是“内存墙”的问题。算得快,但数据却搬不动。在冯·诺依曼架构下,超过90%的能耗被浪费于数据在内存与计算单元间的搬运,而非实际计算。GPU性能释放高度依赖HBM高带宽内存,但2026年全球HBM产能缺口高达50%至60%,SK海力士全年产能早已售罄。与此同时,内存成本已占到一台AI服务器硬件成本的一半以上。算力芯片运算速度快,但数据存取跟不上,处理器大部分时间闲置等待数据,形成了巨大的性能鸿沟。
第二个瓶颈是“网络墙”。单机算力再强,集群互联却跟不上。分布式训练中网络拥塞导致算力空转率超30%,国内智算中心平均算力使用率仅30%。不少企业硬件算力充足,但跨区域训推、远程调用时,公网延迟高、丢包率突出,直接拉低模型训练与推理效率,出现“算力空转、网络拖后腿”的现象。数据移动正对数据中心网络带宽、延迟与能源效率带来前所未有的挑战。
第三个瓶颈是CPU性能被低估。在智能体AI时代,CPU的重要性正在加速回归。伯恩斯坦研报指出,在智能体工作负载中,CPU的计算占比将从传统LLM的14%跃升至50%,与GPU平分秋色。传统数据中心里CPU与GPU的配比大约是1:4,但到2026年这一比例已变成


闽公网安备 35020602001684号