快讯资讯
手机优化
系统数码
网络通信人工智能
网站游戏
测评专题
智车

  互联破局,架构重构:灵       如何选择满足数据中心需    

互联破局,架构重构:灵衢开启 Agentic AI 算力新

时间:2026-09-21 19:52 来源:未知 人气:

当AI从“生成内容”迈向“自主执行任务”,一场计算架构的深层演进正在悄然发生。

Gartner 最新研究显示,到 2026 年底,40% 的企业应用将集成任务特定的 AI Agent。更值得关注的是,2026 年 Gartner CIO 与技术高管调研数据表明,超过 60% 的组织计划在未来两年内落地。

需求端的爆发式增长,正在将算力基础设施推向极限。在华为全联接大会 2026 期间,华为常务董事、ICT BG CEO杨超斌指出,Agentic AI 时代,集群内不同部件之间的互联与通信能力,已经成为影响计算系统性能的关键挑战。为此,华为以灵衢互联为核心,打造出集群与超节点协同的新计算架构,以支持 Agentic AI 时代爆发式增长的计算需求,使能客户、伙伴与开发者应用创新。

华为常务董事、ICT BG CEO杨超斌

互联成瓶颈,Agentic AI 重构计算系统

当模型的参数规模从万亿迈向十万亿,上下文长度从几“K”来到几“M”级,带来的推理算力消耗也将成倍增长,算力投入也将随之飙升。IDC 数据显示,2026 年全球AI基础设施支出将达 4970 亿美元。

然而,算力投入的快速增长,并不意味着算力被有效利用。尤其是在传统计算架构下,随着集群规模的扩大,算力资源的利用率反而下降,其根本性原因在于交互方式上——人与模型的交互频次每小时只有几次,但 Agent 与 AI 模型的交互可以高达数百次。这就意味着,作为AI底层的计算系统,需要同步支持超大模型推理、高频次调用、多种工具使用、多层级信息传递与存储。

最直接的挑战来自于通信墙。 随着模型参数和集群规模的扩大,通信范围极速变大,数据并行域内的通信量与参数量呈近似平方关系,不可掩盖的通信时间占比成倍增加,MFU 快速下降。杨超斌直言:“一个典型 MOE 模型在 10 万卡集群上的 MFU 很有可能不到 20%。”如何打破 MFU 随集群规模快速下降的趋势,成为计算系统面临的首要难题。

此外,还要面临来自多样化算力的挑战。AI 业务负载日益多样驱动算力走向异构,Prefill 与 Decode 呈现出不同的计算特征与访存特征,用不同算力满足算力需求成为必然。此外,面向未来更大模型、更低时延的推理,Decode 中的Attention 与 FFN 由于计算与访存特征的差异,用专用算力来加速可以显著提升效率。随着 Agent 应用普及,CPU 与 NPU 的配比关系也在发生变化。这就要求计算系统需要异构算力协同、内存资源池化,实现动态、高效调整。

在存储层面, 随着上下文持续变长,无论是训练还是推理,层次化的多级缓存架构——包括HBM、DDR、SSD 分层分级已成为必然选择。然而,现有 PCIE+RoCE 网络难以满足缓存所需要的时延与带宽需求,未来 PB 级的 KV Cache 需要更大的带宽、更低的时延来匹配。

更多文章

相关文章

网站导航 | 快讯 | 资讯 | 手机 | 优化 | 系统 | 数码 | 网络通信 | 人工智能

  • 游戏 | 测评 | 专题 | 智车

    合作伙伴:

  • 友情链接(欢迎业界知名网站交换链接)申请友情

    

    声明:本站资源皆来自网络,如有侵权问题,请联系管理员处理!

    Copyright ©2020-2028快知站 版权所有 All rights reserved.

    闽ICP备20010713号-1 闽公网安备 35020602001684号