学习构建世界理论：
NEO 如何从观察中归纳可执行程序

🌍核心问题：理解世界意味着什么？

当代世界模型（world models）通常将"理解"操作化为准确预测未来——无论是在潜在空间还是观测空间中预测下一帧。从 Dreamer 到 Sora，从 GAIA-1 到 Genie，这一范式已取得巨大成功：模型可以生成物理上合理的视频续帧、预测机器人动作后果、模拟环境动态。

但预测准确≠理解。一个能完美预测弹球轨迹的模型可能只是 memorize 了运动模式，而非理解了牛顿力学。一个能生成逼真视频的模型可能只是学会了像素相关性，而非理解了三维几何、遮挡关系或因果链条。当训练分布外的情况出现时——新的物体组合、更长的操作序列、未见过的物理配置——纯预测模型往往崩溃。

这篇 ICML 2026 Oral 论文提出了一个根本性的问题：如果真正的理解不是预测，而是构建关于世界如何运作的内部理论呢？

这不是哲学闲谈。作者从发展认知科学中找到了坚实的经验证据支撑。

🧒认知科学根基：理论论与发展心理学

发展心理学中的理论论（theory-theory）认为：儿童在语言习得之前，就已在构建关于世界如何运作的内部理论。这些理论类似于科学家的微型理论——它们是解释性的（解释为什么事物以某种方式发生）、可预测的（预测新情境下的结果）、可修正的（当预测失败时更新理论）。

经典实验证据包括：

• 婴儿物理直觉：3-4 个月大的婴儿对"不可能事件"（如物体穿透墙壁）表现出更长的注视时间，暗示她们已拥有关于物体恒存性、 solidity 和连续性的内部理论
• 意图归因：12 个月大的婴儿能区分有意图和无意图的行为，暗示她们拥有关于心理因果关系的原始理论
• 前语言期理论修正：儿童在能流畅表达之前就已多次修正关于重力、支撑和运动的直觉理论

关键洞察是：人类理解世界的核心机制是理论构建，而非纯预测。儿童不是通过预测下一帧像素来理解物理的——她们构建了关于物体、力、因果的内部模型，并用这个模型来解释和预测。理论使她们能泛化到从未见过的情境，因为理论捕捉的是生成机制而非表面模式。

论文作者将这一洞察形式化：如果 AI 系统要获得类似人类的组合泛化和 OOD 泛化能力，它需要的不是更好的预测器，而是理论归纳能力——从观察中推断出可执行的、组合性的解释程序。

📐L2T 范式：从观察到理论的归纳

论文提出的 Learning-to-Theorize (L2T) 范式定义如下：

给定一组观测对 (x, y)——其中 x 是初始观测，y 是变换后的目标观测——模型需要推断一个可执行的组合性程序 z = (z₁, z₂, ..., zₙ)，使得从 x 出发依次执行程序中的原语操作，能够生成 y。

关键约束：

• 无程序监督：训练数据只有观测对 (x, y)，没有程序标注。模型必须自行发现程序结构和原语语义
• 无任务分组：训练数据不按任务分类。模型不知道哪些观测对共享相同的底层操作
• 原语共享：所有程序共享同一组原语操作（codebook），鼓励发现可复用的基本操作
• 执行器共享：所有原语通过同一个转换模型执行，确保原语语义跨上下文一致

这与传统的程序归纳（program induction）有本质区别。传统方法通常假设预定义的符号原语（如 +, -, ×, move_left, move_right），而 L2T 要求模型从零开始学习原语本身——既学原语的语义（它做什么），也学程序的组合（如何排列原语），全部仅从观测信号中。

作者将 L2T 中归纳的理论称为 World Theory Model——一种以"发现可执行理论"为推理核心对象的世界模型。它不是预测下一帧，而是推断生成观测的底层程序。

🏗️NEO 架构：理论程序员 + 转换模型

Neural Theorizer (NEO) 是 L2T 范式的具体实例化，由三个核心组件构成：

1. 状态编码器（State Encoder）

将原始观测 x（如 GridWorld 图像、算术表达式图像）编码为潜在状态 s₀。论文使用预训练的 VAE 编码器，将像素级观测压缩为低维潜在表示。这个编码器在所有任务间共享，确保潜在空间的一致性。

2. 理论程序员（Theory Programmer）q_φ(z_ik | s_k, y)

这是 NEO 的核心创新。理论程序员是一个目标条件策略——给定当前潜在状态 s_k 和目标观测 y，它选择下一个原语 z_ik。原语来自一个学习到的离散 codebook（通过 vector-quantized 实现），即学习到的思维语言（Language of Thought, LoT）。

理论程序员的工作流程：

• 输入：当前状态 s_k + 目标 y
• 输出：在 codebook 上的类别分布（选择哪个原语）
• 采样：从分布中采样原语 z_ik
• 迭代：重复直到程序长度达到上限或状态匹配目标

关键在于：codebook 中的每个原语没有预定义语义。它的语义完全通过训练过程中的重建目标和共享执行器来确定。模型必须自行发现哪些原语组合能最好地解释观测。

3. 转换模型（Transition Model）p_θ(s_k+1 | s_k, z_ik)

转换模型是原语的执行器。给定当前状态 s_k 和选中的原语 z_ik，它产生下一个状态 s_k+1。所有程序共享同一个转换模型，这确保了同一个原语在不同上下文中执行相同的操作——这是组合泛化的基础。

训练目标

NEO 的训练目标是变分下界（ELBO），包含以下项：

其中：

• 重建项：最终状态 s_n 应能解码为目标观测 y
• MDL 正则项：惩罚程序长度，驱动模型发现简洁解释
• 先验项：程序分布接近先验分布 p(z)

🔑两大关键机制：MDL 与状态锚定

NEO 面临一个核心挑战：如何防止模型退化为单体映射？即，模型可以"作弊"——用一个原语一步从 x 跳到 y，而不学习任何组合结构。这等价于一个普通的条件 VAE，完全丧失了理论归纳的意义。

论文通过两个机制解决了这个问题：

机制一：最小描述长度（MDL）正则化

MDL 原理来自信息论：最佳解释是最简洁的解释。在 NEO 中，MDL 正则化惩罚程序长度 |z|——模型被驱动去发现少量强大原语，而非大量琐碎步骤。

直觉上：如果 codebook 中有一个"移动两格"的原语，MDL 会鼓励模型用它而非两次"移动一格"。这迫使 codebook 演化出语义丰富的基本操作，而非无意义的微操作。

MDL 通过超参数 λ_MDL 控制强度。论文实验表明，λ_MDL 过低时模型退化为单体映射，过高时程序过短无法拟合复杂变换。GridWorld 实验中 α = 0.33（即 λ_MDL = 1.0）是最佳平衡点。

机制二：状态锚定损失（State Grounding Loss）

状态锚定要求：程序执行过程中的每个中间状态 s_k 都应对应一个合法的、可解码的观测。具体实现上，训练时对每个中间状态 s_k 施加解码-重编码一致性损失：

这防止模型"走捷径"——通过潜在空间中的非法区域从 x 跳到 y。每个中间步骤必须落在合法观测流形上，迫使原语执行有意义的、组合性的变换。

消融实验证明：移除状态锚定后，NEO 完全无法学习组合结构。这正是确保学习到的"思维语言"具有一致、锚定含义的关键约束。

🧪OTIB 基准：观察-理论归纳评测

论文提出了 Observation-to-Theory Induction Benchmark (OTIB)——一个专门评测模型能否从观察中归纳可复用理论的基准。OTIB 的设计原则：

• 无程序监督：训练数据只有观测对 (x, y)，无程序标注
• 无任务标签：观测对不按底层操作分组
• 组合泛化评测：测试集包含训练时未见过的原语组合
• 长度泛化评测：测试集包含比训练程序更长的程序

OTIB 包含三个任务域：

GridWorld：网格世界动力学

2D 网格世界中，智能体执行移动操作（上、下、左、右、跳跃等）。观测对为操作前后的网格状态图像。训练时模型看到长度 1-3 的程序，测试时要求泛化到长度 4-6 的程序和未见过的操作组合。底层真实原语为 4 个基本移动方向。

Arithmetic Factorization：算术分解

观测对为数字表达式的图像表示（如 "12" → "3×4"）。模型需要发现乘法分解操作作为原语。训练时看到 1-2 步分解，测试时要求 3-4 步分解和未见过的因子组合。这测试了模型能否从纯视觉输入中发现抽象的数学操作。

Image Editing：图像编辑

观测对为编辑前后的图像（如旋转、颜色变换、裁剪等）。模型需要发现图像编辑操作作为原语。训练时看到单一编辑操作，测试时要求组合多个编辑操作和更长的编辑链。

📊实验结果：解释驱动的泛化

实验结果清晰地证明了 L2T 范式的核心论点：通过推断解释性程序，NEO 实现了单体基线无法企及的组合泛化和长度泛化。

基线对比

论文对比了多种基线：

• C-SWM（Contrastive Structured World Model）：结构化世界模型，用对比学习获取潜在状态和转换
• Conditional VAE：将变换编码为单个潜在向量，无组合结构
• Neural Program Induction：传统程序归纳方法，通常需要预定义原语
• NEO w/o MDL：消融——移除 MDL 正则化
• NEO w/o Grounding：消融——移除状态锚定损失

核心发现

分布内（In-Distribution）：单体基线（如 Conditional VAE）表现良好——当测试对的变换类型和长度在训练分布内时，单体向量足以编码变换。

组合泛化（Compositional OOD）：当测试对需要训练时未见过的原语组合时，单体基线完全崩溃。NEO 保持高性能，证明它成功识别了底层原语并能以新方式重组。

长度泛化（Length OOD）：当测试对需要比训练程序更长的程序时，单体基线再次失败。NEO 通过迭代执行原语，自然支持更长的程序——这是组合性表示的结构性优势。

消融验证：

• 移除 MDL：模型退化为单体映射，OOD 泛化消失
• 移除状态锚定：模型无法学习组合结构，程序无意义
• 两者缺一不可——MDL 驱动简洁性，状态锚定确保合法性

🔬原语发现与可解释性

NEO 的一个显著优势是可解释性。由于理论被表示为显式程序，我们可以检查模型推断的原语序列。

GridWorld 原语对齐

在 GridWorld 实验中，NEO 的 codebook 大小设为 8（而真实操作只有 4 个方向）。训练后，分析发现 codebook 中的 4 个原语与真实方向操作高度对齐——它们的执行效果与"上、下、左、右"一致。其余 4 个原语使用率极低，被 MDL 自然淘汰。

这证明 NEO 能从纯视觉信号中无监督地发现真实物理操作，而非学习到与真实操作无关的伪原语。

程序可读性

对于每个观测对 (x, y)，NEO 输出的不是黑盒潜在向量，而是一个有序的原语序列。例如，在 GridWorld 中，模型可能输出 [move_right, move_up, move_right] 来解释从位置 A 到位置 B 的变换。这使人类可以直接审计模型的推理过程。

虽然原语语义是通过重建目标归纳的、不保证人类可理解或因果正确，但在合成域实验中，它们与真实操作的对齐程度令人鼓舞。

📈测试时扩展：采样越多越好

论文展示了一个令人兴奋的特性：测试时扩展（test-time scaling）。由于 NEO 的程序归纳是概率性的（理论程序员输出分布而非确定性选择），在测试时可以多次采样程序并选择最佳。

具体做法：给定测试观测对 (x, y)，采样 B 个程序候选，选择重建误差最小的。实验表明：

• 增加采样预算 B 持续提升泛化性能
• 提高采样温度增加程序多样性，也有帮助
• 这类似于 LLM 中的 best-of-N 采样，但作用于程序空间

这一特性是 NEO 组合结构的直接结果：因为程序空间是组合爆炸的，多次采样能更有效地搜索到正确的解释程序。单体基线无法享受这一优势，因为它们没有显式的组合结构来利用。

🧬AI4Science 视角：从世界模型到科学发现

作为 AI4Science 研究者，我们从这篇论文中看到的启示远超世界模型本身。

科学发现即理论归纳

科学发现的核心正是从观察中归纳理论。开普勒从行星观测数据中归纳出椭圆轨道定律，门捷列夫从元素性质中归纳出周期律，AlphaFold 从序列-结构对中归纳出折叠规律。L2T 范式为这一过程提供了计算框架：将科学理论形式化为可执行程序，从观测对中无监督归纳。

生物分子动力学中的程序归纳

考虑蛋白质折叠：氨基酸序列（初始状态 x）经过一系列构象变化（原语操作）到达三维结构（目标状态 y）。如果我们能用 NEO 范式训练一个分子领域的理论归纳器，它可能自动发现折叠过程中的关键中间态和转换操作——这些可能对应于已知的折叠中间体或新的折叠路径。

代谢网络中的因果操作发现

在代谢工程中，我们经常面对"敲除基因 A 后产物产量增加"这样的观测对。L2T 范式可以应用于从通量数据中归纳代谢调控程序——自动发现哪些基因操作是可组合的"原语"，哪些组合能解释观测到的产量变化。这与我们之前在 vm_sae 中用 FSEOF 和 KO 扫描发现调控靶点的工作异曲同工，但 L2T 提供了更强的组合泛化框架。

药物设计中的变换分解

在先导化合物优化中，从 hit 到 lead 的分子变换可以视为一系列"编辑操作"（添加官能团、替换骨架、调整构象）。如果用 NEO 学习这些编辑操作作为原语，模型可能发现通用的分子编辑规则，并泛化到训练时未见过的编辑组合——这直接对应对药物化学中"生物电子等排体替换"和"骨架跃迁"的组合泛化需求。

与现有 AI4Science 范式的对比

当前 AI4Science 的主流范式是端到端预测：序列→结构（AlphaFold）、反应→产物（ retrosynthesis 模型）、基因→表型（GWAS）。这些模型在分布内强大，但在 OOD 场景下（新蛋白质家族、新反应类型、新群体）泛化能力有限。L2T 提供了一条替代路径：不直接预测，而是归纳生成机制。如果模型理解了"为什么"——即生成观测的程序——它就更有可能在新情境下做出正确推断。

⚖️局限与未来方向

当前局限

• 合成域验证：实验在 GridWorld、算术和图像编辑等合成任务上验证，真实世界场景（如视频、物理仿真）尚未测试
• 原语因果性不保证：归纳的原语通过重建目标学习，不保证对应真实因果机制。在合成域中与真实操作对齐，但真实世界中因果因子未知
• codebook 大小需预设：codebook 容量是超参数，需先验知识估计合理范围。自适应 codebook 大小是开放问题
• 程序长度上限：训练时设了最大程序长度，更长的程序需要调整上限。虽然长度泛化实验表明 NEO 能处理更长程序，但仍有上限
• 计算成本：状态锚定损失要求每个中间状态解码-重编码，训练成本较高
• 观测对假设：L2T 需要配对的 (x, y) 观测，而真实世界中获取配对数据可能困难

未来方向

• 真实世界扩展：将 NEO 应用于真实视频、物理仿真和机器人观测，验证从合成到真实的迁移能力
• 与大语言模型结合：将 LLM 作为理论程序员的外部知识源，引导程序归纳向人类可理解的方向
• 层次化理论：当前原语是扁平的，引入层次化程序结构（原语调用子程序）可能增强表达能力
• 主动理论构建：让模型主动选择观测对来更新理论，类比儿童通过实验探索世界
• 多模态理论：扩展到跨模态观测对（如文本-图像、序列-结构），归纳跨模态变换程序
• 因果理论：引入因果推理工具，使归纳的理论不仅是解释性的，还具有因果干预能力

📄论文信息