跳到正文
Google DeepMind·· 3 小时前精选

Google DeepMind 发布世界模型 Genie 4

Genie 4: A new generation of world simulation

AI 导读

Google DeepMind 发布世界模型 Genie 4,原生支持多模态,可在实时交互模拟中同步生成音乐、环境音与对话。

推荐理由

官方披露了 Genie 4 的原生音频、实时文本操控与 Gemini 协同推理能力,也坦承长时一致性等局限。

正文 · AI 翻译

2026年10月27日 模型

Raia Hadsell、Diego Rivas 和 Hang Qi

今天,我们宣布推出 Genie 4,这是我们全新的世界模型,它带来了前所未有的真实感,并改进了实时交互式模拟。Genie 4 原生支持多模态,能够与世界同步生成类似音乐的音频、环境噪声和交互式对话。

Genie 4 模型融合并构建于 Gemini 系列的能力之上:Gemini Omni 将模拟锚定在真实世界的外观与行为中,而其他 Gemini 模型则提供维持模拟连贯性与连续性所需的复杂推理能力。

在此基础上,你可以启动一个事件,Genie 4 会模拟接下来发生的一切:世界如何响应、听起来如何,以及其中的人如何移动、反应和说话。

理解和模拟世界是构建 AGI 的关键一环。Genie 4 提升了我们创建安全、无限可变模拟的能力,这些模拟可助力从为机器人和智能体开发训练环境,到开启全新交互体验的创造等方方面面。

我们已开始将 Genie 4 作为研究预览版向可信测试者逐步推出——在向消费者和开发者发布之前收集反馈,首批面向 Project Genie 中的 Google AI Ultra 订阅用户,以及 Gemini API 和 Google AI Studio 的早期访问合作伙伴。在此处加入 Project Genie 中 Genie 4 的等待名单here。

Genie 4 带来增强的照片级真实感、流畅的运动和原生音频。上方所有伴随声音均由 Genie 4 直接生成。

Genie 4 提升了四项关键能力

以下是 Genie 4 实时交互的录制内容,用户使用标准键盘控制进行导航和镜头控制,并通过文本提示引导场景的演变。

实时塑造世界模拟

借助 Genie 4,你可以使用自然语言实时修改模拟——例如改变天气、移动镜头,或引入新的人物或物体——Gemini 会结合上下文调整你的提示,使其与周围场景相匹配。在你的输入之间,Gemini 还会监控并引导场景,使世界保持连贯地推进。

开启音频以聆听 Genie 4 的世界。

在物理与人类动作的真实感上推进前沿

Genie 4 为实时交互式模拟引入了新的真实感标准。基于对世界的先进物理理解,Genie 4 可模拟真实世界的物理场景,例如空气动力学、碰撞等。

最显著的飞跃在于 Genie 4 如何模拟人,创造出动作自然、对环境做出有机反应、并可在实时中被交互式引导的角色。

建模世界的听觉呈现

Genie 4 是我们首个原生生成音频的实时世界模型。每个世界都带有其自身场景的环境音,从林间风声到海滩浪涛。

然而,真正的前沿是人类语音。Genie 4 引入了可即时自适应的交互式对话。角色会进行交谈,并对你的输入或世界中的事件做出反应,这一切都是实时的。

借助 Gemini 模型模拟复杂事件

将 Gemini 与 Genie 4 结合,为世界模拟增添了新的推理层,使我们能够对复杂的多步骤事件进行建模,并在将 AI 系统带入真实世界之前,测试它们如何在不同的环境中应对。

为了实现实时效果,Gemini 3.8 Flash 在循环中充当引导代理:当 Genie 4 实时生成世界时,Gemini 持续观察场景,将目标分解为一系列步骤,并审查传入的帧以跟踪进度并验证每一步是否成功。当世界发生变化或用户介入时,Gemini 会即时调整其计划,从而解锁具有可靠因果性、程序化行为和多步推理的世界。

作为探索这一能力的一部分,我们还一直在试验 Gemini 4 Argon 和 Genie 4,将我们的前沿研究与 Gemini Robotics 相结合。

在下面的示例中,Argon 将用户指定的任务分解为多个步骤,供 Genie 渲染。在模拟渲染过程中,这些步骤会作为文本说明交错发送给 Genie 4。由于 Genie 4 可以使用 Gemini 通过文本说明进行实时引导,这如今开辟了一条路径:随着模拟朝着该任务的完成推进,对模拟进行自适应调整。这一能力成为一条路径,利用 Gemini 4 Argon 和 Genie 4 在想象世界中模拟广泛场景。

Gemini 4 Argon 和 Genie 4 协同工作,模拟 Apptronik 的 Apollo 人形机器人下跳棋,并将任务分解为实时步骤。

来自可信测试者的经验

尽管 Genie 4 是一项重大的研究里程碑,但它仍是一个早期的实验性模型。为了解交互式世界模型如何支持现实世界的工作流程——以及它们仍需在哪些方面成长——我们一直在与来自创意产业、新闻业、教育、游戏和工程领域的多组可信测试者合作。

测试者强调了照片级真实感、原生音频和实时引导方面的飞跃如何让想法和概念转化为逼真的模拟,从而在各学科中解锁新能力:

  • 创意指导:创意人士和技术专家正在测试 Genie 4,将其作为用于预可视化和构思的快速“草稿模式”。例如,电影制作人可以进入场景的实时模拟,并实时进行多次“拍摄”,随时调整摄像机角度、灯光、对话和动作。
  • 历史场景与沉浸式照片:新闻摄影记者正在探索如何让单张 2D 档案照片在几秒钟内成为该环境的接地模拟。团队正在测试充满人物、动态变化的世界如何帮助体验历史空间,或可视化短期环境事件(如突发洪水或野火)如何展开。
  • 交互式体验概念设计:游戏开发者和创意技术专家正在测试 Genie 4,以在几秒钟内从初始想法变为可探索的原型,在编写任何一行引擎代码之前,通过自然语言提示测试视觉风格、材质美学和交互机制。
  • 模拟:除了我们的机器人研究之外,各行业的企业合作伙伴正在评估 Genie 4 作为快速“从零到一”场景生成的工具,并找出差距,以进一步改进 Genie,从而最好地满足这一模拟需求。

未来工作:迈向混合世界模型

未来进展的一条有前景的路径在于混合世界模型,它将代码和语言模型的逻辑化、结构化推理与像素级模拟的丰富感官表征相结合。

将 Genie 和 Gemini 模型更紧密地结合,是朝这一方向迈出的早期一步。Gemini 在后台工作,负责映射结构并规划叙事时间线,而 Genie 则生成即时的物理现实——逐像素渲染世界的视觉、声音和响应方式。两者互补的优势相结合,有望解锁一类全新的世界模型,其连贯性、可控性和真实感远超任一单独方案所能达到的水平。

负责任地构建世界模型

Genie 4 标志着一个新的前沿研究领域,它融合了实时生成与照片级真实感,带来了一系列我们希望以负责任的方式逐步推出和探索的新能力与维度。Genie 4 包含严格的安全防护措施,与我们其他模型的安全政策保持一致。在发布此预览版之前,我们通过内部严格的安全评估对 Genie 4 进行了评测,以防止生成有害或恶意内容。此外,我们有意先将其部署给受信任的测试合作伙伴以获取早期反馈,然后再更广泛地发布该模型。

为保持透明度,Genie 4 生成的所有视频和音频都将包含 SynthID——我们不可感知的数字水印技术,可帮助在视觉和音频模态中识别 AI 生成的内容。

了解当前的局限性

Genie 4 仍是一个处于早期、不断演进的研究领域。

虽然它能在短时会话中维持连贯的环境,但视觉细节和物体恒存性仍可能随时间发生偏移或漂移——尤其是当模拟运行时间较长、经过多次复杂的提示词编辑后,或在场景中导航时。复杂的物理交互、实时音频准确性、可读文本渲染、空间准确性以及长期一致性都是持续研究中的活跃领域。我们以预览形式分享 Genie 4,旨在与社区共同学习,并安全地推进交互式模拟的前沿。

Genie 4 的后续步骤

Genie 4 已作为研究预览版发布给受信任的测试者,并将很快通过 Project Genie 向 Google AI Ultra 订阅者开放,同时通过 Gemini API 和 Google AI Studio 向早期访问合作伙伴开放。在此处加入 Project Genie 中 Genie 4 的等候名单here。

我们期待用户很快就能步入其中、进行实验,并构建自己的交互式世界。

致谢

Genie 4 的诞生得益于以下核心贡献者:Hang Qi、Diego Rivas、Aleksander Hołyński、Inbar Mosseri、Jack Parker-Holder、Shlomi Fruchter、Tejas Kulkarni、James Assiene、Philip Ball、Jakob Bauer、Eddie Cao、Lucy Chai、Harris Chan、Kleopatra Chatziprimou、Hao Chen、Yoni Choukroun、Mark Collier、Enric Corona、Kurtis David、Ariel Ephrat、Maxime Gazeau、Ruiqi Gao、Chelsee Glover-Odom、Liangke Gui、Swaroop Guntupalli、Shan Han、Tingbo Hou、Jiri Hron、Hui Huang、Drew A. Hudson、Zhouyuan Huo、Linyi Jin、Christos Kaplanis、Dhrupad Karwa、Eunyoung Kim、Congtao Kuang、Eliot Laidlaw、José Lezama、Hao Li、Shuang Li、Yuchen Liu、Hanzi Mao、Mark Matthews、Matt McGill、Kay McKinney、Ricardo Monti、Mark Murphy、Joseph Ortiz、Roni Paiss、Frank Perbet、Ben Poole、Tal Reiss、Konstantinos Rematas、Guy Scully、Jeremy Shar、Shashank Shastry、Sri S、Omer Tov、Ruben Villegas、Andrey Voynov、Hongjie Wang、Luyu Wang、Kaustubh Sridhar、Mo Samsami、Stephen Spencer、Yufei Wang、Will Whitney、Rundi Wu、Joyce (Jingjing) Xie、Jesse Yin、Shiran Zada、Serena Zhang、Xiaofan Zhang、Zhengqi Li、Zhixing Zhang、Yuan Zhong、Shuo-yiin Chang、Dmitry Lagun、Ronny Huang、Yao Su、Ankush Gupta、Genzhi Ye、Haolin Jia、Weiqin Wang、Xi Xiong、Salah Zaiem、Carol Zheng。

Genie 4 还需要各合作团队的紧密协作,我们感谢所有让此次发布得以实现的跨职能合作伙伴:Dina Bashkirova、Emil Bergner、Greta Borisko、Irina Blok、Melissa Byun、Gabe Clapper、Viral Carpenter、Michael Y. Chang、Maximo Cudich-Sieburger、Chloe Doan、Alisa Fortin、Shivani Ghanta、Vikram Gopali、Ezra Gorman、Khyatti Gupta、Sam Hasinoff、Philipp Henzler、Hector Hinestroza、Ed Hirst、Tyler Holland、Kristian Holsheimer、Tiffany Hu、Kapil Joshi、Randeep Katari、Pavan Kumar、Vikhyat Kumeria、Sam Kvaalen、Matthew Levine、Yinxiao Li、Yuchi Liu、Miao Luo、Nick Matarese、Kangfu Mei、Signe Nørly、Moises Oliveira、Eric Paskie、Manika Puri、Susanna Ricco、Andrey Ryabtsev、Cai Schumann、Nicole Brichtova、Andy Sekyere、Grace Shih、Melissa Smith、Duncan Noble Smith、Kenda Stewart、Rod Strougo、Jenn Sturgeon、Amy Zeng、Gaby Pearl、Eleanor Tomlinson、Kenyon Watson、Inês Ayer、Luke Talbot、Han-Yun Tsao、Guillaume Vernade、Karen Wang、Changchang Wu、Ian Wilkinson、Weijuan Xi、Jennifer Yick、Yunhan Zhao、Eric Zhang、Jason Zhang、Annie Zhou、James Zhou、Chris Walker、Alan Yam、Alex Chen、Cliff Lungaretti、Dan Motzenbecker、Kaloyan Kolev、Matthew Carey、Nate Zucker、Sam Lawton、Shashwath Santosh、Suz Chambers。

感谢 Raia Hadsell、Aäron van den Oord、Josh Woodward、Steve Seitz、Carlos Hernandez、Elias Roman、Jung E. Kim、Abhishek Bapna、Eli Collins、Tulsee Doshi、Carolina Parada、Jie Tan、Koray Kavukcuoglu 和 Demis Hassabis 在整个研究过程中提供的深刻指导与支持。

最后,我们感谢值得信赖的测试人员和早期访问用户,他们提供的反馈帮助推动了我们的研究向前发展。

来源:Google DeepMind · deepmind.google