NVIDIA携手VMware打造VMware Private AI Foundation with NVI

2023年，以ChatGPT为代表的生成式AI迅速爆火，成为科技行业的热点。如何高效部署生成式AI应用，以此来加速业务创新，成为各大企业纷纷探索的重点。

为了帮助企业加速推进生成式AI的应用落地，在VMware Explore 2023上，VMware联合NVIDIA，共同打造VMware Private AI Foundation with NVIDIA生成式AI平台。VMware Private AI Foundation with NVIDIA 将使企业能够自定义模型并运行各种生成式 AI 应用，如智能聊天机器人、助手、搜索和摘要等。该平台将作为全集成式解决方案，采用 NVIDIA 提供的生成式 AI 软件和加速计算，基于 VMware Cloud Foundation 构建，并针对 AI 进行了优化。

据NVIDIA企业计算副总裁Justin Boitano介绍，VMware Private AI Foundation with NVIDIA不但能够让用户可以快速获取生成式AI所需要的高性能，而且还能够依托于NVIDIA Nemo框架和深度学习虚拟机，快速开发和部署LLM，加速LLM输出交付。

共同推动生成式AI应用落地

众所周知，生成式AI对于算力提出了更高的要求。为了解决算力挑战，NVIDIA 不但推出了L40S、H100等先进的 GPU，而且还发布了NVIDIA BlueField-3数据处理单元 (DPU)。与此同时，为了帮助企业打造现代化的数据中心，VMware发布了VMware Cloud Foundation，以此来帮助企业从本地数据中心延伸到混合云。

在NVIDIA企业计算副总裁Justin Boitano看来，创建和自定义企业的生成式AI模型和应用程序，不但对性能提出了更高的要求，而且还需要解决企业面临的数据保护安全、IP安全和隐私等风险。VMware云基础架构平台副总裁Paul Turner同样表示，面对外部环境的不确定性，快速发展的环境和不断变化的工具，企业创建生成式AI应用时，还需要综合考虑成本和复杂性等因素。

为此，NVIDIA和VMware基于企业面临的各种挑战，在VMware Explore 2023上共同打造了VMware Private AI Foundation with NVIDIA生成式AI平台，一方面基于NVIDIA L40S/NVIDIA H100和NVIDIA BlueField-3/ NVIDIA ConnectX-7底层硬件提供强大的算力保障；另一方面，利用 NVIDIA AI Enterprise 套件，VMware Cloud Foundation用户能够在 NVIDIA 认证系统上安全地运行现代、加速的工作负载以及现有企业应用程序，实现LLM的快速开发、部署和输出交付。

据介绍，由于VMware云基础架构支持NVIDIA L40S GPU和NVIDIA BlueField-3智能网卡等硬件产品，能够在VMware Cloud Foundation直接加速人工智能工作负载的计算能力。而在VMware Private AI Foundation with NVIDIA生成式AI平台上，用户仅需要创建项目、自定义模型、构建Al助手、部署Al助手这4个步骤，即可完成生成式AI应用的开发与应用。

Justin Boitano表示，VMware Private Al Foundation with NVIDIA平台不但能够为用户提供更优化的性能，而且基于双方广泛的生态和合作伙伴，能够为用户带来更高的选择灵活性，与此同时还能够降低数据安全的风险。除此之外，能够大幅提高企业的生产力，降低开发流程，缩短开发部署应用周期。