当前,AI应用正在从单一模型推理迈向海量Agent的群智协同,AI基础设施的底层逻辑正在被重写。面对万亿Token的实时交互、多智能体的并行协作、长周期的自主执行,下一代AI数据中心正面临前所未有的复杂性工程挑战。正是在此背景之下,2026开放计算技术大会(OCTS 2026)在北京隆重举办。
本届大会,不仅发布了业界首个《GW-Scale Open AIDC 框架技术报告》,更见证了浪潮信息、字节跳动、阿里云等头部企业在算力架构、供电散热、高速互连等领域的最新创新成果,为Agent时代的AIDC演进提供了的清晰蓝图。
从单点算力到群智协同,AI基础设施迎来系统性重构
Agentic AI的加速发展,使AI负载从单一模型训练与推理,演进为多智能体协作、长上下文交互、工具调用、记忆管理和持续任务执行并存的复杂系统。AI基础设施的挑战已不再是提升单点算力,而是如何让计算、存储、网络、供电、散热和系统调度协同运行,持续支撑高并发、低时延、高效率的Token生产。
浪潮信息副总经理赵帅在演讲中指出,AI正在从大模型应用加速迈向Agent规模化落地。企业AI应用不再是简单的“一问一答”,而是由大量Agent持续运行、协同执行,在真实业务流程中完成任务拆解、工具调用和结果生成。为此,AI基础设施的核心挑战正在发生根本性转移。
这种范式的转变对基础设施提出了全新要求。阿里云首席云服务器架构师陈健分析认为,在Agentic时代,CPU的重要性强势回归。Agent需要处理任务拆解、编排、记忆管理等复杂逻辑,这些工作主要运行在CPU上。与以往推理任务不同,Agent本质是一个可调度、可隔离、可运维的长期运行进程,这对计算架构、互连网络与系统调度提出了新的要求。
字节跳动服务器架构师高晓军同时指出,未来数年单机柜XPU密度、单芯片功耗和集群互连带宽可能会跃升数倍,模块化、可横向扩展、可统一交付的统一AI Rack正在成为支撑大规模AI业务增长的重要基础设施形态。
面对这一趋势,AI基础设施的竞争已不再是单一模型的能力竞赛,而是系统级协同的效率之争。如何让计算、存储、网络、供电、散热和系统调度协同运行,持续支撑高并发、低时延、高效率的Token生产,成为本次大会专家论道的核心议题。


闽公网安备 35020602001684号