NVIDIA(英伟达)携手 Oracle(甲骨文)，加速人工智能及处理资料

在 Oracle CloudWorld 大会上，Oracle 宣布推出全球首个 zettascale（10 的 21 次方）运算规模的 OCI Supercluster。该系统由 NVIDIA Blackwell 平台加速运行，支持超过 10 万颗 NVIDIA 最新一代 GPU，用于训练和部署下一代 AI 模型。OCI Supercluster 系统将于 2024 年上半年推出，并可扩展至 131072 颗 Blackwell GPU，峰值 AI 运算能力达到 2.4 zettaflops。该系统还支持 NVIDIA ConnectX-7 NIC 和 Quantum-2 InfiniBand 网络，适用于内部部署、公有云和主权云环境，为企业提供灵活部署选项。

Oracle 还宣布推出 NVIDIA GB200 NVL72 液冷裸机执行个体，支持生成式 AI 应用的训练和推论。该执行个体利用 Quantum-2 InfiniBand，能够在 72 颗 GPU 的 NVLink 网域内运行，实现上兆个参数模型的即时推论。OCI 也将于今年提供 NVIDIA HGX H200 GPU 平台，透过 NVLink 和 NVLink Switch 连接 8 颗 H200 Tensor 核心 GPU，并在 RoCEv2 网络上扩展至 65536 颗 GPU，支持大规模即时推论和训练工作负载。

此外，Oracle 宣布推出针对中阶 AI 工作负载及 NVIDIA Omniverse 可视化应用的 L40S GPU 加速执行个体，进一步扩展企业在边缘及云端环境中的 AI 运算能力。Oracle 的 Roving Edge Device v2 边缘产品，现可支持最多三个 NVIDIA L4 Tensor 核心 GPU，帮助企业在远端环境中运行 AI 应用。

多家企业已利用 NVIDIA 加速的 OCI Supercluster 推动 AI 创新。AI 新创公司 Reka 就在此集群上开发了多模态 AI 模型，用于开发能听、说、读、看的企业代理。Reka 共同创办人 Dani Yogatama 表示，该公司的多模态 AI 模型依赖于 NVIDIA GPU 加速基础设施，能够轻松处理大规模模型并高效扩展训练工作负载。

NVIDIA 与 Oracle 也展示了三项基于 GPU 的功能，展示如何加速生成式 AI 应用的开发，包括向量嵌入加速、向量图索引加速以及推论微服务的应用，进一步提升企业资料处理效能。

透过这些创新，NVIDIA 与 Oracle 正协助全球企业和政府实现 AI 应用的突破，满足资料主权需求并加强经济韧性。