生成式人工智能 (AI) 能够根据提示生成文本、图像或其他内容,尽管目前企业对它的采用尚处于早期阶段,但随着企业组织找到该技术的更多新用途,预计该技术的采用将迅速增加。
Gartner分析师Frances Karamouzis表示:“生成式人工智能的狂热没有任何减弱的迹象。”“各组织正在争先恐后地确定向生成式人工智能解决方案投入多少资金、哪些产品值得投资、何时开始以及如何减轻这项新兴技术带来的风险。”
据Bloomberg Intelligence预测,未来十年,生成式AI市场将以每年42%的惊人速度增长,从2022年的400 亿美元增长到1.3万亿美元。
生成式人工智能可以通过多种方式帮助IT团队:它可以编写软件代码和网络脚本、提供故障排除和问题解决、自动化流程、提供培训和入职培训、创建文档和知识管理系统以及帮助进行项目管理和规划。
另外,生成式人工智能还可以改变业务的其他部分,包括呼叫中心、客户服务、虚拟助理、数据分析、内容创建、设计和开发以及预测性维护等。
但数据中心基础设施能否应对生成式人工智能产生的不断增长的工作负载?
生成式人工智能对计算需求的影响
毫无疑问,生成式人工智能将成为大多数组织未来数据战略的一部分。如今,网络和IT领导者需要做的是确保他们的IT基础设施以及团队为即将到来的变化做好准备。
当他们构建和部署包含生成式人工智能的应用时,这将如何影响对计算能力和其他资源的需求?
咨询公司毕马威 (KPMG) 咨询部董事总经理布莱恩·刘易斯 (Brian Lewis) 表示:“正如我们今天所知,对数据中心的需求将会增加,并将彻底改变未来数据中心及其相关技术的面貌。”
数据中心运营商DataBank首席执行官Raul Marynek表示,生成式AI应用分两个阶段对计算能力提出了巨大的需求:训练构成生成式AI系统核心的大型语言模型 (LLM),然后使用这些训练有素的LLM来运行应用程序。
“训练大型语言模型硕士需要神经网络形式的密集计算,其中数十亿语言或图像示例被输入神经网络系统并反复细化,直到系统像人类一样‘识别’它们,”Martynek 说。
Marynek表示,神经网络需要极其密集的GPU处理器高性能计算 (HPC) 集群,一次连续运行数月甚至数年。“它们在专用基础设施上运行效率更高,这些基础设施可以位于用于训练的专有数据集附近,”他说。
第二阶段是“推理过程”或使用这些应用程序实际进行查询并返回数据结果。“在这个运营阶段,它需要一个地理上更加分散的基础设施,可以快速扩展并以较低的延迟提供对应用的访问,因为查询信息的用户希望对想象的用例做出快速响应。”