核心问题：扩散模型的采样-模拟不一致
扩散模型已经在分子生成领域取得了巨大成功——从 AlphaFold 3 的结构预测到蛋白质平衡系综的生成，扩散模型能高效地生成符合玻尔兹曼分布的独立分子构象样本。但一个被长期忽视的问题是：这些模型学到的 score 函数，真的对应物理上有意义的能量函数吗？
ScoreMD 的出发点是一个看似矛盾的现象。在一个简单的 2D 玩具系统（Müller-Brown 势能面）上训练标准扩散模型后：
采样正确。通过经典的去噪扩散采样（denoising），模型能正确恢复训练分布的两个模式及其质量分布。
能量错误。但在 t=0 处直接评估 score 来估计无归一化密度时，模型产生了一个不存在的第三个模式，且质量分布与采样结果不符。
这意味着同一个模型，用两种方式解读时给出了矛盾的答案：p(x) ≠ p₀(x)。如果用这个 score 去做分子动力学模拟，产生的力是错误的——模型会生成正确的样本，但产生错误的动力学。
这个不一致性并非玩具系统特有的现象。随着系统复杂度增加（从丙氨酸二肽到快折叠蛋白 BBA），问题愈发严重：未正则化的模型在模拟中产生噪声 artifact，甚至分裂出不物理的模式。ScoreMD 的核心贡献就是找到这个不一致的根源，并提出一个物理驱动的正则化方案来修复它。
Score-Force 等价性：理论桥梁与现实裂痕
理论桥梁
扩散模型与分子动力学之间的桥梁建立在 Boltzmann 分布的一个简单性质上。当训练数据来自平衡 MD 模拟时，样本服从 Boltzmann 分布 p(x) = exp(−U(x)/kBT)/Z。在扩散时间 t=0 处，score 函数满足：
sθ(x, t=0) ≈ ∇x log p(x) = −∇x U(x)/kBT − 0
也就是说，score 正比于物理力的负梯度。这意味着任何在 Boltzmann 分布数据上训练的扩散模型，原则上不仅能用于独立采样，还能通过将 score 作为力 estimator 来驱动 Langevin 动力学方程进行分子模拟：
dx = v dt, M dv = −∇x U(x) dt − γMv dt + √(2γkBT) dw
这种 score-force 等价性无需力标签——模型直接从平衡构型中学习力，这对于力信息不可得的粗粒化（CG）系统尤为重要。
现实裂痕
然而在实践中，这个等价性经常失效。ScoreMD 将问题追溯到小扩散时间步的 score 不准确。
在 VP-SDE（Variance Preserving）扩散过程中，去噪 score matching 损失在 t→0 时包含一个 1/σ(t)² 因子，而 σ(0) = 0，导致损失爆炸。标准做法是将训练区间截断为 (ε, 1)，但这恰恰牺牲了 t=0 附近——也就是 score-force 等价性最需要的区域——的精度。
更深层的原因是：扩散模型在训练时只学习了条件转移核 p₀t(x(t)|x(0)) 的 score，而非真正的边际分布 pt(x) 的 score。在 t 较大时两者接近，但在 t→0 时，训练目标的偏差会导致 score 偏离真实边际 score，进而偏离物理力。
Fokker-Planck 正则化：从物理方程到训练目标
Fokker-Planck 方程
Fokker-Planck 方程是描述随机过程中概率密度演化的偏微分方程。对于扩散 SDE dx = f(x,t)dt + g(t)dw，其对数密度形式为：
∂t log pt(x) = ½g²(t) divx(∇x log pt) + ‖∇x log pt‖² − ⟨f, ∇x log pt⟩ − divx(f)
这个方程是扩散过程的基本物理定律——任何正确训练的扩散模型都应该满足它。但 ScoreMD 发现，标准扩散模型在小 t 处严重违反这个方程，而正是这些违反导致了 score 与密度的演化不一致，最终使 p(x) ≠ p₀(x)。
正则化损失
ScoreMD 的核心创新是在训练目标中加入 Fokker-Planck 残差作为正则化项：
L = LDSM[sθ] + α · LFP[log pθ]
其中 LDSM 是标准去噪 score matching 损失，LFP 是 Fokker-Planck 残差的平方：‖Fpθ(x,t) − ∂t log pθt(x)‖²，α 控制正则化强度。
这个正则化的物理直觉是：强制 score 的时空演化遵循扩散过程的物理定律。Fokker-Planck 方程将不同扩散时间上的密度联系起来，相当于把大 t 区域（训练稳定、score 准确）的精度"传递"到小 t 区域（训练不稳定、score 不准确）。
弱残差公式：降低计算成本
直接计算 Fokker-Planck 残差需要高阶导数（特别是散度项 divx(∇x log pθ)），在高维分子系统中计算代价极高。ScoreMD 引入了两个关键近似：
弱残差公式。用高斯平滑的期望值替代逐点残差：R̃(x,t) = Ev[R(x+v,t)]，其中 v ~ N(0, σI)。这产生了一个无偏估计器，只需要一阶导数，通过两个随机扰动点的 score 差分来估计散度。
有限差分时间导数。∂t log pθt 用非均匀网格有限差分近似，因为 t 和 log pθ 都是一维的，有限差分是一个稳健的估计。
最终的正则化损失通过两次独立随机扰动 v, v' ~ N(0, σ²I) 的残差点积来估计，计算上可行且无偏。
保守模型设计与混合专家架构
保守参数化
标准扩散模型直接将 score 参数化为神经网络输出 sθ = NN(x,t)，不保证存在对应的能量函数。ScoreMD 改为显式参数化能量函数，score 作为其梯度：
sθ(x,t) = ∇x NN'(x,t)
这种保守参数化确保了：(1) score 始终对应一个良定义的能量函数；(2) 力是保守力，可从势能导数计算；(3) Fokker-Planck 正则化可以作用在能量函数上而非仅仅 score 上。这对于分子模拟的数值稳定性至关重要——非保守力会导致能量漂移和轨迹发散。
架构选择
ScoreMD 使用图 Transformer（Graph Transformer）作为骨干网络：
平移不变性。使用原子间距离而非绝对坐标作为边特征。
排列等变性。图结构天然处理原子的排列对称性。
旋转等变性。不通过架构硬编码，而是通过训练时随机旋转数据增强来学习——AlphaFold 3 也采用了类似策略。这避免了镜像对称性问题。
节点特征。单分子训练时使用 one-hot 原子类型；可迁移模型使用原子身份、原子序数、残基索引和氨基酸类型。
能量输出。最后一层节点嵌入通过 ψ: R^K → R 映射为标量能量，score 通过自动微分计算 ∇x Σψ(ni)。
混合专家（Mixture of Experts）
ScoreMD 的另一个关键设计是基于时间的混合专家。将扩散时间轴 (0, 1) 划分为不相交的子区间，每个子区间分配一个独立的专家模型：
| 专家 | 时间区间 | 角色 | 正则化 |
|---|---|---|---|
| Expert 0 | (0, 0.1) | 精细结构 + 模拟 | Fokker-Planck + 保守参数化 |
| Expert 1 | [0.1, 0.6) | 中等尺度特征 | 无（自由模型） |
| Expert 2 | [0.6, 1.0) | 粗粒度特征 | 无（自由模型） |
这个设计带来多重优势：
模拟效率。模拟只需要 t=0 附近的专家，无需加载完整模型。
采样效率。采样时顺序加载各专家，采样时间减少 >50%。
避免过正则化。大 t 区域不需要 Fokker-Planck 正则化（那里 score 本身就准确），强制约束反而会降低 iid 采样质量。MoE 让正则化只作用在需要的地方。
专业化训练。小 t 专家专注于精细结构，大 t 专家专注于粗粒度特征，各自独立并行训练。
内存管理。同一时刻只有一个专家在内存中，可以训练更多参数而不超出 GPU 限制。
实验结果：从丙氨酸二肽到快折叠蛋白
ScoreMD 在三个生物分子系统上验证，逐步增加复杂度：
丙氨酸二肽（Alanine Dipeptide, ALDP）
系统。5 个粗粒化原子 [C, N, CA, C, N]，50k 训练样本。
设置。模拟 1.2 µs Langevin 轨迹，时间步 2 fs。
结果。所有方法在 iid 采样上表现相当（PMF ~0.097）。但模拟质量差异显著：Two For One 的 PMF 误差为 0.206，而 ScoreMD 仅 0.091——降低 56%。更重要的是，ScoreMD 的 iid 和 sim PMF 几乎一致（0.097 vs 0.091），证明了一致性。
Chignolin（快折叠蛋白，10 残基）
系统。粗粒化到每氨基酸一个 bead，10 个 beads。
设置。模拟 855.6 ns。
结果。Two For One 在模拟中产生强烈噪声，PMF 误差高达 1.438。ScoreMD 仅 0.038——降低 97%。自由能面与参考 MD 高度吻合。
BBA（快折叠蛋白，28 残基）
系统。28 个粗粒化 beads，是本文最大的单分子系统。
设置。模拟 200 ns。
结果。Two For One 的模拟分裂出不物理的模式，PMF 误差 1.624。ScoreMD 为 0.254——降低 84%。BBA 还展示了 ScoreMD 恢复动力学信息的能力：TIC 投影轨迹显示了清晰的折叠-去折叠转变过程，这是纯 iid 采样无法获得的。
定量对比
| 系统 | 方法 | iid PMF (↓) | sim PMF (↓) | 一致性 |
|---|---|---|---|---|
| ALDP | Diffusion | 0.098 | — | — |
| ALDP | Two For One | 0.098 | 0.206 | ✗ |
| ALDP | ScoreMD | 0.097 | 0.091 | ✓ |
| Chignolin | Two For One | 0.027 | 1.438 | ✗ |
| Chignolin | ScoreMD | 0.035 | 0.038 | ✓ |
| BBA | Two For One | 0.034 | 1.624 | ✗ |
| BBA | ScoreMD | 0.234 | 0.254 | ✓ |
关键观察：系统越大，不一致性越严重，正则化的收益越大。在 BBA 上，ScoreMD 的 sim PMF 误差比 Two For One 低 6.4 倍。同时，ScoreMD 的 iid 采样质量有轻微下降（BBA: 0.034 → 0.234），反映了采样精度与一致性之间的 tradeoff，由正则化强度 α 控制。
Two For One 的"噪声力"问题
之前的 Two For One 方法（Arts et al., 2023）试图通过在 t ≫ 0 处评估 score 来提高模拟稳定性——更大的 t 意味着 score 更准确。但代价是引入了大量噪声：在 t > 0 处，score 包含了扩散噪声的贡献，导致力本身是"噪声化"的。这虽然让模拟不发散，但产生了错误的物理可观测量，如键长分布偏离正确值。ScoreMD 通过在 t=0 处获得准确且无噪声的 score，从根本上解决了这个问题。
可迁移二肽玻尔兹曼模拟器
ScoreMD 的第三个贡献是开发了一个可迁移的 Boltzmann 模拟器，能在所有 20 种标准氨基酸组成的二肽上泛化。
设置
使用 Klein et al. (2023a) 的数据集，包含 175 个二肽的隐式溶剂模拟数据（每个 49k 样本）。每个氨基酸粗粒化为 [N, CA, CB, C, O] 五个原子，每分子最多 10 个原子。测试集为训练中未见的二肽组合。
消融实验
ScoreMD 系统消融了各组件的贡献：
| 方法 | iid PMF (↓) | sim PMF (↓) | 说明 |
|---|---|---|---|
| Transferable BG | 0.230 | — | 不支持模拟 |
| Diffusion | 0.206 | 6.515 | 模拟完全失败 |
| Two For One | 0.203 | 0.741 | 噪声力，过分散 |
| Mixture (MoE) | 0.200 | 0.658 | 仅 MoE，无 FP 正则化 |
| Fokker-Planck | 0.241 | 0.368 | 仅 FP，无 MoE |
| Both (ScoreMD) | 0.199 | 0.203 | MoE + FP，最佳 |
关键发现：
Diffusion 基线在模拟中完全失败（PMF 6.515），证明了不一致问题的严重性。
MoE 和 FP 通过不同机制改善一致性。MoE 的 Fokker-Planck 误差在 t=0 处与未正则化模型相当，但模拟质量更好——说明 MoE 通过专业化训练提高稳定性，而非通过降低 FP 误差。FP 正则化则直接降低 FP 误差。两者结合效果最佳。
ScoreMD (Both) 实现了 iid 和 sim 的几乎完美一致（0.199 vs 0.203），且 iid 采样质量也是最好的（0.199），不逊于 Transferable BG（0.230）。
Fokker-Planck 误差分析
论文定量测量了各模型偏离 Fokker-Planck 方程的程度。所有方法的误差都在 t→0 处最大。FP 正则化显著降低了这个误差，与采样-模拟一致性的改善直接相关。有趣的是，MoE 虽然 FP 误差仍高，但模拟质量好——这表明 FP 误差不是不一致的唯一来源，MoE 通过减少小 t 区间的训练范围来提高 score 精度，是另一条改善路径。
技术启示与局限
技术启示
1. 扩散模型的 score ≠ 物理力。这是 ScoreMD 最深刻的发现。标准扩散模型虽然能采样正确的分布，但其 score 函数不对应物理能量。这意味着将扩散模型的 score 直接用作力来跑 MD 是不可靠的——需要显式的一致性约束。
2. Fokker-Planck 方程是连接生成模型与物理模拟的桥梁。这个方程是扩散过程的物理定律，将其作为正则化项，等价于用物理先验约束模型——不需要力标签，只需要平衡构型数据。
3. 一个模型，两种用途。ScoreMD 实现了用一个能量扩散模型同时做 iid 采样（快速生成独立构象）和 Langevin 模拟（获取动力学信息）。之前的方法要么只能采样（BG、NF），要么只能模拟（MLIP），ScoreMD 统一了两者。
4. 混合专家是扩散模型的高效架构。MoE 不仅提高了效率（采样时间减半），还通过专业化提高了质量。关键洞见是：不同扩散时间需要不同的约束——小 t 需要物理正则化，大 t 需要自由表达力。
5. 无标签学习物理力。ScoreMD 从平衡构型中学习力，无需力标签。这对于粗粒化系统尤为重要，因为 CG 系统的"正确力"本身就不明确定义（取决于 CG 方案）。
局限
计算开销。FP 正则化需要多次前向传播来估计弱残差，训练成本显著增加。虽然弱残差公式降低了导数阶数，但计算量仍是标准扩散训练的数倍。
经验性结果。虽然 FP 正则化的动机是理论的，但结果主要是经验的。降低 FP 误差改善一致性是经验观察，并非严格证明——不一致可能还有其他来源。
采样-一致性 tradeoff。更强的 FP 正则化提高一致性但可能降低 iid 采样质量。这个 tradeoff 由超参数 α 控制，需要针对具体应用调优。
系统规模。目前验证的最大系统是 28 残基的 BBA。更大的蛋白质和更复杂的系统（如蛋白质-配体复合物）尚待验证。
固定预测步长。当前版本在固定的时间步上训练。未来可探索多时间步训练以提高泛化性。
论文信息
标题：Consistent Sampling and Simulation: Molecular Dynamics with Energy-Based Diffusion Models
作者：Michael Plainer, Leon Klein, Hao Wu, Stephan Günnemann, Frank Noé
机构：Freie Universität Berlin, Zuse School ELIZA, TU Berlin, Shanghai Jiao Tong University, TU München, Rice University, Microsoft Research AI4Science
发表：NeurIPS 2025（Advances in Neural Information Processing Systems, Volume 38, pp. 24460–24505）
代码：github.com/noegroup/ScoreMD
arXiv：2506.17139