近期微软 (Microsoft) 和亚马逊 (Amazon) 的两场财报电话会议共同印证了一个趋势:基于 Arm 架构的定制芯片已经从过去的技术尝试,转变为超大规模云基础设施的核心支柱。
微软 CEO 萨提亚·纳德拉 (Satya Nadella) 用一句话概括了这场架构变革:“在运行智能体负载时,CPU 与 GPU 同样重要。”随后他给出了有力的证据:微软预计,到 7 月底搭载 Azure Cobalt 200的机架将部署在全球超过 25 个数据中心。
时隔一日,亚马逊公布,其芯片业务(包括 Graviton、Trainium 和 Nitro)年化营收规模已突破 250 亿美元,同比增长达到三位数。客户对 Graviton 的采购承诺规模环比接近增长三倍,而 Graviton5 的采用速度也接近 Graviton4 的两倍。
虽然产品不同、云平台不同,但方向趋同:全球领先的超大规模云服务商正在将基于 Arm 架构的 CPU 打造成 AI 基础设施的核心,并针对各自的工作负载需求和经济效益目标进行优化。
智能体需要的不止是模型算力
生成式 AI 的第一波浪潮的衡量标准是模型规模、AI 加速器的供给能力以及词元 (Token) 的生成能力。而智能体 AI 的运行方式则更加复杂,智能体需要检索数据、调用工具、运行代码、执行策略,并对结果进行验证,所涉及的是更广范畴的任务。
GPU 仍承担绝大部分模型训练与推理 Token 生成工作,而 CPU 则承担着围绕模型运行的各项任务,包括请求路由、数据预处理、工具编排、内存和存储管理,并确保数千个并发交互任务能够持续稳定地运行。
纳德拉在财报电话会议上表示,基于 Azure Cobalt 的虚拟机 (VM) 产品组合目前已承载微软自有服务,以及 Adobe、Arm、Elastic、OpenAI、Sprinklr 和 TomTom 等客户的工作负载,表明其已在真实生产环境中应用。
亚马逊云科技则从另一个角度印证同一趋势。Graviton5 专为智能体 AI 工作负载设计,针对实时推理、代码生成和多步骤编排等场景进行了优化。基于 Graviton5 的 M9g 实例相比采用 Graviton4 的 M8g 实例,计算性能最高提升 25%,机器学习推理速度最高提升 35%。
两家超大规模云厂商,不同路径通向规模化
Cobalt 与 Graviton 的成功证明,Arm 架构让超大规模云厂商能够针对自身大规模基础设施要求定制芯片,同时共享同一架构和软件。这有助于加快商业化进程,实现商业回报。微软于 2025 年 11 月发布 Cobalt 200,2026 年 6 月开放虚拟机产品的预览访问。不到两个月,搭载该芯片的机架方案已部署至全球超过 25 个数据中心,进展十分迅速。
Cobalt 200 基于 Arm Neoverse CSS V3 构建,是微软第二代 Arm 架构云 CPU——相较前代产品,性能最高提升 50%,扩展到 128 个 vCPU,专为云原生、数据密集型以及智能体工作负载设计。


闽公网安备 35020602001684号