跳到正文
NVIDIA Blog· Uttara Kumar·· 3 小时前精选

Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式可用

Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure

AI 导读

Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用,A5X 实例将于下月开放,并计划扩展至欧洲。

推荐理由

原文给出 A5X 实例的可用时间、规模规划与首批客户用例,可据此判断云上强化学习基础设施的落地节奏。

正文 · AI 翻译

这些实例将于下个月正式全面可用,并计划将可用范围扩展至欧洲——为云客户带来一个集训练、推理和大规模强化学习于一体的集成平台。

A5X 实例将 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo 网络以及 Google Cloud 第四代先进液冷技术整合在一起,用于大规模运行高要求的智能体推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展至多个站点,最多部署 960,000 块 Rubin GPU。

Ineffable Intelligence 是一家总部位于伦敦的科技公司,由 AlphaGo 创造者 David Silver 创立,是首家使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。

阅读 NVIDIA 在欧洲的全部公告

通过交互进行学习需要持续循环地生成经验、评估结果并更新模型,这要求基础设施能够大规模支撑整个流程。A5X 将 Vera Rubin 作为集成系统引入 Google Cloud 的 AI Hypercomputer,整合计算、网络和存储,以大规模支持经验驱动的学习。

“我们正在构建能够通过自身经验持续改进的超级学习者,”Ineffable Intelligence 创始人兼首席执行官 David Silver 表示。“这既需要大量算力,也需要在生成经验和基于经验训练之间建立紧密连接,使智能体的每一次改进都能迅速塑造其下一次经验。Vera Rubin 将计算性能与高带宽连接相结合——既包括 Vera CPU 与 Rubin GPU 之间,也包括机架内 Rubin GPU 之间——使我们能够进一步拓展强化学习研究的规模和雄心。”

总部位于伦敦的营销与传播公司 WPP 也已在基于 NVIDIA Vera Rubin 的 A5X 实例上展示了其创意智能体参考架构,使用了 NVIDIA Nemotron 模型和 NVIDIA OpenShell,后者是用于安全 AI 智能体的 NVIDIA OpenShell 参考架构的一部分。

这些智能体将对话式请求转化为多步骤创意工作流,例如视频生成、放大和风格重塑,并在执行前由人工审批。OpenShell 为智能体执行提供受治理的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群的工作负载在单个 A5X 实例上即可运行。

随着各组织部署智能体系统,它们需要保护驱动这些系统的专有模型和敏感数据——即使运行在并非自己拥有的基础设施上也是如此。

Google Cloud 将成为首批在裸金属实例(例如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例)上以机架规模提供NVIDIA 机密计算的云服务提供商之一。此外,Google Cloud 正在由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 驱动的 G4 虚拟机上正式提供机密计算,为机密推理和微调提供灵活的平台。包括Vertebrae、Polaris Cloud 和 Confidential Core AI 在内的客户正在使用 Confidential G4 实现对话隐私、可验证的智能体执行以及受策略治理的企业智能。

为支持大规模高能效部署,Google Cloud 与 NVIDIA 正在探索面向基于 Vera Rubin 的基础设施的NVIDIA DSX MaxLPS能力,以帮助优化每瓦性能,并在现有数据中心电力预算内扩展容量。

了解更多关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。

阅读 NVIDIA 在欧洲的全部公告

来源:NVIDIA Blog · blogs.nvidia.com