设想屏幕上生成了一间图书馆。你向前走,书架逐渐靠近;向左转,窗户进入视野。你把一本蓝色的书放在桌上,绕过书架,再走回来。
书还在不在原处?桌子有没有悄悄换颜色?如果你改为推倒书,而不是把它放平,后续会不会相应变化?
这是自拟的检验场景,不是对某个产品实测结果的描述。漂亮的第一帧很容易令人惊叹,连续动作之后的这些小问题,却更接近世界模型需要承担的工作。
视频继续播放,与环境响应动作有什么差别?
一段普通预生成视频,后面的画面已经由生成过程决定。观众按左键,通常不会让镜头改走左边。可交互环境则需要根据已有状态或画面,以及现在输入的动作,生成对应后续。
设想从同一图书馆入口开始,一次向左,一次向右。我们希望两次后续有与动作一致的区别,而不是把同一段漫游视频换个播放按钮。交互把生成问题从“接下来像什么”,进一步约束为“采取这个动作后,应当怎样变化”。
2024年的Genie研究用视频训练可交互环境:把画面编码成视频词元,学习表示变化的潜在动作,再由动态模型根据历史和动作预测后续。训练视频并不要求提供逐帧真实按键标签。1
具体说,训练时模型可以同时看到前后画面,尝试用少量离散动作代码概括中间变化,并让这些代码帮助预测后续。使用时,用户选择相应代码来控制生成。这里学到的动作不是天然带着“左键”“跳跃”的人类标签,也不保证与真实控制器逐项一致。
它给无动作标注的视频提供了一条进入交互建模的路径,但不能把“没有动作标签”说成“没有训练数据”,更不能说模型直接发现了适用于所有环境的物理定律。
图书馆现在会响应按键了。至于按下“向左”时究竟是你左转,还是整间图书馆配合你一起搬家,还得继续观察。
画面接得顺,不代表东西记得牢
Google DeepMind于2025年8月介绍Genie 3,展示由文本描述生成并实时探索动态环境的能力。官方发布同时列出动作范围、持续交互、地理准确性和多主体互动等方面的限制。2
为什么“转身回来”是一个好问题?因为物体离开画面之后,后续生成仍需要保留与它有关的信息。只要每一小段看起来顺畅,却在离开视野时重新抽签决定摆设,就会得到局部自然、整体不一致的环境。
在图书馆设想中,可以分开检查:蓝书短暂被遮挡后是否仍在,取走蓝书后桌面是否确实空了,换个视角是否保持大致几何关系。不同检查针对不同要求,不能凭一个成功片段推断所有方面都成立。
2026年1月,Google推出Project Genie实验原型,让用户创建和探索生成世界;当时的说明也明确指出,画面未必始终符合真实物理,控制还有局限。模型研究与具体原型的开放能力、时长限制并不完全相同。3
同年5月,官方又介绍与Street View街景影像结合的能力,让生成起点可以关联真实地点。这增加了现实参照,不等于把后续生成全部变成该地点的可靠测量记录。4
如果真实街角在生成世界里接出了一座城堡,我们可以欣赏创造力,却不能据此更新导航。生成的图书馆管理员,也不应负责告诉消防员真正的出口在哪里。
能在里面练出行动,证据就又多一层
上一章的Dreamer提醒我们,世界模型不只供人观看,还可以用于训练策略。问题从“画面是否连贯”进一步变成“模型中的经验,能否帮助完成目标任务”。
2025年的Dreamer 4论文研究在学出的世界模型中训练行动,使用高效Transformer等设计支持复杂环境预测。它在Minecraft任务中探索固定离线资料下的学习,随后在实际游戏评测中检验获得钻石的表现。5
这项结果需要带着条件阅读:论文使用包含视频、动作和事件标注的既有资料,并提供子任务条件;“离线学习”指训练时不让Agent额外与游戏交互取得新经验,不是训练和最终评价都从未接触游戏,也不是完全没有人类资料与任务设计。
设想两个仓库模型都能生成很逼真的货架。一个把碰撞预测得较对,另一个偶尔允许穿墙。在它们内部训练出来的策略,回到真实仓库之后可能表现很不一样。第二个模型可以赢得短视频点赞,却很难通过货架部门的验收。
因此,策略迁移与任务完成提供了比观感更直接的证据。但一个游戏任务上的收益,仍不能无限外推到机器人、交通或所有物理场景。环境、动作接口、训练资料和评价目标改变以后,需要新的检验。
Genie与Dreamer这两组案例回答的重点也不同:前者突出生成交互环境的能力,后者突出利用预测训练行为。它们可以接近、结合,却不是同一条榜单上只比较画质的产品。
走到这里,哪些东西真正连了起来?
回看开头那本蓝书。语言模型可以读懂“把书放回桌上”这句请求;视觉系统提供桌与书的观察;Agent组织操作;策略决定下一步动作;世界模型预测这些动作可能造成的变化。一个系统可以组合它们,但不能用其中一项的成功替其他项验收。
Transformer是一种计算架构,Agent是一种围绕目标组织行动的系统概念,世界模型描述对环境变化的建模作用。它们不在同一个分类层级。早期规则系统没有Transformer,2013年的DQN用了卷积网络,2018年的World Models用了循环预测;后来的一些交互模型采用Transformer,也不意味着所有世界模型都必须如此。1 5 6 7
同样,世界模型不是语言模型已经确定的统一继任者。语言擅长承载请求、知识和沟通,环境预测帮助比较行动后果,工具把决定落到对象上;它们可以在不同任务中分工合作。
整套系列从“研究生命起源”里怎样切出词开始,经过规则、概率、表示学习、预训练与反馈,走到可以读资料、用工具、检查结果,再走到预测与生成交互环境。贯穿其中的变化,是我们让机器利用了哪些信息、执行了哪些操作,以及用什么结果判断它做对了。
标题的答案也在这里:生成一个能走进去的世界,说明系统取得了重要的交互生成能力;是否掌握特定规律,还要看动作响应、持续一致性、未见情境中的预测,以及这些预测能否支持实际任务。漂亮的世界,是证据的起点之一。
我们终于又回到图书馆。那本蓝书是否还在桌上,比模型宣布“我理解了世界”,更值得走过去看一眼。
参考资料
- Genie: Generative Interactive Environments,Jake Bruce、Michael Dennis、Ashley Edwards等/Google DeepMind,2024。论文
- Genie 3: A new frontier for world models,Jack Parker-Holder、Shlomi Fruchter/Google DeepMind,2025-08-05。发布说明
- Project Genie: Experimenting with infinite, interactive worlds,Diego Rivas、Elliott Breece、Suz Chambers/Google,2026-01-29。原型说明
- Simulate real-world places with Project Genie and Street View,Diego Rivas、Jonathan Herbert、Nicole Segaran/Google,2026-05-19。更新说明
- Training Agents Inside of Scalable World Models,Danijar Hafner、Wilson Yan、Timothy Lillicrap,Dreamer 4,2025。论文
- World Models,David Ha、Jürgen Schmidhuber,2018。作者研究全文
- Playing Atari with Deep Reinforcement Learning,Volodymyr Mnih等,2013。论文