问题背景:肽药物的结构预测困境
肽类药物是一个日益重要的治疗模态,在糖尿病(胰岛素、semaglutide)、银屑病(Icotyde)、心血管代谢疾病(Lipfendra)和肿瘤学(zolucatetide、AUBE00、daraxonrasib、CID-078)中展现出广泛用途和变革性疗效。作为模态,肽类药物承诺了抗体级别的效力——能够增强复杂蛋白质-蛋白质相互作用的生物学——同时以可每日口服给药的分子格式呈现。
然而,肽药物在结构上往往出人意料地复杂:它们可以由远超 canonical 20 种氨基酸的构建块组成,排列成比线性肽更多样的拓扑。历史上,大多数肽药物来源于天然肽,极少来自真正的 de novo 设计。虽然 mRNA 展示或噬菌体展示等实验发现平台可用于识别新肽作为药物发现的起点,但推进初始 hit 艰巨——它们通常缺乏细胞膜渗透性、代谢稳定性和靶标特异性等期望的药物样特征。
1.1 de novo 设计流水线的结构预测瓶颈
蛋白质结构预测和设计的进步正在变革蛋白质治疗的实验发现。费力的免疫或展示发现方法正被 de novo 设计取代——配合 AI 设计的迷你蛋白和抗体的快速小规模合成与测试。这些 de novo 设计流水线编排多个神经网络:生成候选序列及其结构,然后将生成的分子过滤到值得实验室生产的少数几个。从根本上说,这些流水线的成功由生物分子结构预测网络的预测能力驱动——它们仲裁哪些 de novo 设计的分子实际值得在湿实验室测试。
1.2 现有网络的两大局限
现有生物分子结构预测网络有两个关键局限,使其难以应用于设计和筛选新肽候选物,尤其是含非 canonical 残基的肽:
- 难以泛化到新 pose 和新口袋:已有文献表明,这些工具的性能严重依赖于训练集中相似蛋白-配体相互作用的存在,和/或同源蛋白序列可用的进化信息深度。药物发现活动通常涉及对结构数据库中不存在的口袋产生新相互作用
- 难以处理非 canonical 化学的肽结构:尽管现代网络理论上能表示任意化学输入,实践中它们难以预测含非 canonical 化学的肽结构。失败范围从结合 pose 和方向错误到更基本的问题——产生错误手性或不合理几何的结构。这使得 de novo 设计方法难以应用于肽药物发现:大多数已批准肽药物涉及显著的非 canonical 修饰
Vilya-2 核心架构:全原子统一化学图
Vilya-2 架构建立在 Vilya-1 引入的统一全原子 Transformer 框架之上。化学图以重原子为节点、共价键为边作为网络的主要输入。模型仅嵌入从图中推导的基本化学特征(原子序数、杂化状态、形式电荷、键级和共轭/芳香性状态),明确避免残基级 tokenization、分子类型标注或多序列比对信息。此外,节点级向量特征用于告知正确的局部几何和四面体立体中心配置。
2.1 相对 Vilya-1 的架构改进
为提高计算效率和可扩展性,Vilya-2 对 Vilya-1 基线做了三项关键修改:
- 移除所有三角形注意力层——先前工作观察到仅依赖三角形乘法进行 2D 更新即可实现更好的扩展
- 增加 1D 轨道更新相对于 2D 轨道更新的比例——受近期蛋白质生成模型扩展文献启发
- 将向量特征更新所需的动态索引计算移出核心网络——实现全图编译,将整体计算吞吐量加速数倍
2.2 界面预测的局部建模策略
界面预测模型利用与构象生成器相同的核心训练目标和化学输入特征,将整个分子系统(包括靶蛋白、配体和辅因子)表示为统一化学图。在基线原子标量、键标量和向量几何特征之外,添加一个补充输入为靶标提供全局结构上下文:从参考晶体结构中非配体蛋白 Cα 和核酸 C4' 坐标推导的稀疏距离矩阵作为额外 2D 特征。不使用额外的分子类型标注来区分靶标和配体。
这种骨架条件化方法基于一个观察:侧链柔性通常是药物发现中结合动力学的主要驱动因素。训练时,输入系统被显式裁剪到以配体为中心的 1024 原子交互区域(约 120 个蛋白残基,大致是一个功能域的平均大小)。为防止网络平凡地记忆配体在结合位点中的位置,裁剪中心在裁剪前进行空间抖动,中位径向位移 3.2Å。
2.3 训练数据与时间截止
构象生成训练数据集在 Vilya-1 基础上扩展了从 CPSea 数据库策展的额外肽结构。界面预测训练数据在构象生成数据集之外,纳入了 PDB 中的生物分子复合物和 CPSea 数据库的蛋白-肽复合物。为实现与现有 co-folding 方法的无偏比较,训练限于 2021-09-30 或之前发布的 PDB 条目。训练损失与构象生成情况一致:扩散重建目标 + 成对 distogram 损失 + 立体化学损失(鼓励正确四面体手性)。
Riptides 基准:肽界面预测的新标尺
为加速这一模态的方法开发,论文发布了 Riptides(Really Important Peptides)基准——一个策展的、化学多样的蛋白-肽复合物基准(github.com/VilyaPublic/Riptides)。该基准旨在为评估结构预测工具——无论是大型神经网络还是经典物理方法——在建模肽社区开发为治疗物的肽类型方面的性能建立清晰的测试场。
3.1 构建原则
Riptides 的构建遵循三个目标:
- 拓扑多样性:包含线性肽和大环肽,多种大小——因为肽治疗物的定义是宽泛的
- 化学多样性:包含非 canonical 氨基酸示例,代表肽化学家在优化中部署的化学多样性
- 严格质量控制:避免在有问题或部分未解析的结构上评估方法——这些问题在 PDB 中普遍存在,可能人为降低模型性能
3.2 筛选标准
从 PDB 中满足以下过滤条件的链中选择结构:
- 条目发布日期须晚于 2023-06-01(为与 Boltz-2 公平比较)
- 条目分辨率须 < 3Å
- 配体与其最近蛋白受体链之间须有至少 20 个距离 < 5Å 的唯一原子对;受体链须有至少 50 个已解析残基
- 线性肽:6-18 个残基的多肽链;大环:至少 12 个原子的环,1-20 个残基
按主要蛋白受体和配体化学去重,手动剔除未解析残基和配体与主要蛋白受体接触不充分的条目。最终基准包含 88 个示例,其中非 canonical 大环肽占主导(51/88)。每个条目使用 Schrödinger 的蛋白制备流程处理,去除所有水和远离结合位点的链(包括辅因子和金属离子)。
界面预测结果:全面超越 co-folding
4.1 Riptides 基准:肽界面预测 SOTA
在 Riptides 基准上,Vilya-2 在 < 2Å RMSD 下恢复 54.1% 的结合肽骨架,在 < 1Å 下恢复 38.0%——这些阈值比其他地方报告肽界面精度时通常使用的阈值要严格得多。代表性 co-folding 模型 Boltz-2 在相同阈值下仅达到 40.9% 和 22.7%,尽管被给定受体晶体结构作为模板并多了一年半的训练数据。随着采样增加到 1000 个样本,Vilya-2 的精度升至 59.1%(< 2Å)和 40.9%(< 1Å)。
4.2 对比物理方法
还与代表性物理方法进行了基准对比——使用 Schrödinger 的对接工具,对大环应用 MacroDock,对线性肽应用 Glide。每个靶标生成 100 个 pose,按对接分数排序,选择排名第一的模型。Schrödinger 对接仅在 22.0%(< 2Å)和 15.9%(< 1Å)的情况下恢复结合肽骨架——在两个阈值下都比 Vilya-2 低两倍以上。
4.3 临床相关治疗大环的精确建模
除聚合基准外,Vilya-2 精确建模了直接临床相关的个体治疗大环:
- daraxonrasib(KRAS 抑制剂):仅含 2 个酰胺键(其中一个涉及肼),其余部分由小分子中更常见的部分构成。Vilya-2 的预测与 Revolution Medicines 报告的 PDB 共结构几乎一致
- zolucatetide(helicon,β-catenin 抑制剂):通过三条独立侧链-侧链交联(i,i+8 长烃链、i,i+4 短烃链、i,i+5 酰胺键)强制 α 螺旋。虽无公开共结构,Vilya-2 预测的复合物与内部解析的前体化合物共结构观察到近乎相同的相互作用
- Icotyde(二硫键 lariat 肽,IL23R 抑制剂):Vilya-2 预测其 lariat 尾部在与 IL23R 复合时采用 α 螺旋——α-二取代 oxane 非天然氨基酸稳定了这一螺旋构象。内部解析的共结构与 Vilya-2 预测近乎完美匹配
- Lipfendra(PCSK9 抑制剂):无定义二级结构,通过精心设计的交联策略保持在结合胜任构象中。预测的复合物完美再现了前体化合物与 PCSK9 复合的相互作用
关键强调:在所有这些案例中,用于比较的实验结构均不在训练数据中。Vilya-2 预测这些结构的能力突显了其处理任意复杂化学和拓扑的能力。
泛化能力:从新口袋到交叉对接
5.1 Runs N' Poses:训练集未见的新复合物
结构预测模型的实用价值取决于其泛化到新口袋和新结合模式的能力。co-folding 网络的性能已被证明在与其训练数据不相似的靶标上大幅下降。在 Runs N' Poses 基准上(明确测量在 PDB 上训练的机器学习方法的泛化性能),Vilya-2 显示相对于训练相似性仅有中等性能下降,在大多数相似性范围(包括最低范围)上保持强劲性能(> 60% 配体对接成功率)。相比之下,Boltz-2 在最低评估相似性范围下降到 20%。
注意:Vilya-2 仍在更早的 2021-09-30 截止日期上训练,而 Boltz-2 使用 2023-06-01 之后的训练数据。这种性能表明了强泛化:Vilya-2 能够预测和排序与训练中见过的不同的配体 pose。
5.2 PoseX:交叉对接
Vilya-2 以受体结构的 Cα-Cα 成对距离为条件,哲学是:对于大多数药物发现活动,表位结构已经大致已知。这种输入条件化提供关于受体折叠的稀疏、有噪距离,以规避从进化信息学习残基-残基接触的需要,但不提供关于侧链堆积的信息。在实践中,受体的精确结合构象未知,引出一个重要问题:Vilya-2 能在多大程度上将配体交叉对接到非天然受体结构中?
PoseX 基准结果(设计用于测试现有机器学习方法将小分子对接到受体非天然构象的能力)显示:从自对接到交叉对接场景仅有约 5% 的成功率下降,表明使用的骨架先验留下了足够的自由度来准确建模大多数配体诱导的构象变化。在自对接和交叉对接上,Vilya-2 均优于所有现有 co-folding 模型。交叉对接上 Vilya-2 在 71.1% 的靶标上成功(配体 RMSD < 2Å),在要求 pose 通过物理有效性检查时略降至 66.5%。相比之下,AlphaFold 3 在相同两个标准下分别为 68.8% 和 53.8%——当强制物理有效性时下降幅度大得多。
5.3 物理有效性
许多现有机器学习模型有另一个失败模式:产生违反基本化学和几何规则的物理上不合理的结构。应用 PoseBusters 过滤检查可使 co-folding 方法在某些基准上的成功率下降高达 10%,其他对接模型的成功率可下降高达 50%。Vilya-2 的排名第一预测在大多数情况下满足 PoseBusters 过滤——应用这些过滤仅下降约 4 个百分点。
由于 PoseBusters 过滤仅依赖输入分子的化学图而非结合结构的真实构象,可以在用置信模型排序之前应用 PoseBusters 过滤。这种"PB-valid prefilter"方案允许丢弃看似物理不合理的 pose,保证排名第一的输出结构通过这些检查——同时恢复相同甚至更高的成功率。
推理时扩展:采样多样性与评分校准
6.1 采样扩展:从 100 到 10000
现代视觉和语言模型的成功部分由随机采样和推理时扩展驱动——理论是更难的问题需要更多计算和探索来解决。在 co-folding 方法中扩展推理需要重新运行 trunk 和扩散模块。虽然这已被证明对某些界面类型( notably 抗体-抗原复合物)改善预测,但据我们所知,可比的增益尚未在小分子或肽界面上得到证明。
相比之下,Vilya-2 仅通过扩散过程扩展推理。在小分子上成功率在 100 个样本时饱和,但对于更具挑战性的肽界面,Vilya-2 在 1000 个样本时继续改善。采样能力与置信网络评分精度之间的相互作用使 Vilya-2 能够模拟 ab initio 生成的景观——俗称折叠漏斗(forward folding funnels)。
6.2 折叠漏斗与 co-folding 的失败模式
Vilya-2 采样一系列结合模式——既有接近也有远离近天然结构的——并一致地用置信估计识别近天然结构。Boltz-2 在 Riptides 基准上的采样结果显示 co-folding 方法有两个失败模式:
- 采样群体不够多样,因此其理论性能上限受限
- 更令人担忧的是,其配体-蛋白界面的置信估计基本上不比随机好——这一现象在小分子蛋白复合物中也被先前工作观察到
6.3 置信度校准
任何生成结构建模框架的重要前提是良好校准的置信度指标。仅排序能力不够:评分模型可能可靠地将一个结构排在另一个之上,却不给出采样群体是否包含近天然 pose 的绝对信号。校准提供了这个缺失的信号。
Vilya-2 的 plddt-ligand 分数表现出强经验校准:在三个基准数据集上,找到一个 plddt-ligand > 0.8 的 pose 转化为 > 60% 的概率该采样配体构象落在 2Å 全原子 RMSD 之下。相反,plddt-ligand < 0.6 是需要更多采样才能找到正确结合模式的强烈指示。校准使模型对新配体实际有用:它给出预测何时可信的绝对信号。
构象生成:跨尺度与跨化学泛化
7.1 跨分子大小泛化
在构象生成训练期间,Vilya-2 限于含少于 128 个重原子的分子(均值 = 31 个重原子)。尽管如此,网络准确再现了比训练集中任何分子大两到三倍的二硫键钉合迷你蛋白的结构。与 Vilya-1 的性能一致,Vilya-2 对完全 canonical 肽和含非 canonical 残基的高度修饰序列预测结构的精度相当。这种大小泛化还延伸到肽样骨架之外的多样化学类别——大型合成有机分子的精确结构预测也得到验证(所有展示的 > 128 重原子分子均达到 < 1Å 全原子 RMSD)。
7.2 肽构象生成 SOTA
基于架构改进,Vilya-2 部署了两个模型规模(small 和 large)。两者在 Vilya-1 引入的两个基准上均优于 Vilya-1。在 X 射线大环基准上,高精度区间(ring RMSD < 0.5Å)的增益最为显著——small 和 large 模型的成功率分别增加 5.1% 和 12.1%。在更难的 NMR 基准(大环显著更大)上,成功率(ring RMSD < 1Å)分别改善 3.5% 和 5.9%。
7.3 性质预测
遵循 Vilya-1,将 Vilya-2 构象生成器在内部大环数据上微调以预测四个与生物利用度和暴露相关的分子性质。在配体-only 类模型中,最大差距出现在 MDCK 渗透性测定上——访问 3D 构象集成有利于模型对渗透性化合物的富集。Vilya-2 在 ChromLogD、MDCK 渗透性、PAMPA 渗透性和动力学溶解度上均匹配或超过 KNN(ECFP 指纹)和 ChemProp 基线。
活性预测:从结构到功能的微调
超越结构预测,Vilya-2 可作为基础模型:其预训练表示可高效微调用于下游任务。通过将 Vilya-2 适配到预测真实 hit-to-lead 优化活动中的化合物效力来证明这一点,使用内部项目的测量效力数据。
8.1 微调协议的三项关键修改
- LoRA 参数高效微调:处理更大的预训练 Vilya-2 模型
- 门控注意力池化:聚焦于大型原子系统中驱动分子级预测的特定原子
- 构象集成级池化:聚合跨生成结构的预测,捕获构象变化
8.2 富集结果
在该活动的回顾性评估中,微调基于复合物的 Vilya-2 产生 3× 活性化合物富集改善。仅看配体的构象变体达到较低的 2.5× 富集,表明提供靶标上下文有利于学习。两个 Vilya-2 变体均基于 3D 构象集成进行预测。相比之下,两个基线——ECFP 上的 KNN 和 ChemProp——仅从配体的 2D 化学结构预测,显示明显更低的富集(1.3× 和 1.9×)。
8.3 数据效率
Vilya-2 还具有数据效率:在少于 1000 个早期活动测量上微调,其性能接近在所有可用数据上训练的性能——在 25% 活动数据时性能大幅上升并基本饱和。
架构优化与 CUDA 内核加速
移除三角形注意力并解析计算输入梯度,相对于 Vilya-1 模型大幅改善了训练和推理时间。基于这一加速,训练并评估了 112 个候选网络(参数大小和层组合各异)用于构象生成。分析这些模型的 Pareto 前沿揭示了不同的扩展动态:初始计算成本(每样本 FLOPs)的增加在高分辨率结构精度上产生快速、大幅的收益;进一步扩展在构象生成上给出适度但递减的回报——表明性能上限受可用训练数据和基准内在复杂性的限制。
9.1 速度提升
small 和 large 模型相对于 Vilya-1 均显示大幅速度提升:在较小分子上近 5× 吞吐量,small 模型在更高原子数时增益更大(高达 19 倍加速)。速度提升部分由两个核心操作的新专用内核驱动——带配对偏置的注意力和三角形乘法——均由 NVIDIA 的 cuEquivariance 库提供。这些改进在高原子数时最大,使更大的迷你蛋白折叠成为可能,并允许 Vilya-2 在界面建模所需的尺度上运行。
9.2 内存效率
连同编译,这些内核将训练期间的 GPU 内存使用减少 42%,使更大批量的训练成为可能。
AI4Science 趋势洞察与产业意义
10.1 范式转移:从 co-folding 到全原子统一表示
Vilya-2 代表了分子建模的范式转移:从大型 co-folding 网络转向统一化学表示和全原子上下文。这一转移解锁了前所未有的任意蛋白-配体相互作用建模通用性。核心洞察是:残基/原子分裂表示从根本上限制了现有网络——它阻止了 PDB 中不同分子类别之间的迁移学习,也使 PDB 之外的结构数据整合复杂化。这些局限共同导致模型记忆已知相互作用而非学习分子组织的基本原理。
10.2 推理时扩展的化学版
推理时扩展在语言和视觉中至关重要,但 co-folding 网络未充分利用它。Vilya-2 明确设计用于多样性:生成和评分多个 pose 允许模型探索复杂相互作用的替代解决方案。这反映了 AI4Science 的一个重要趋势——将 LLM/Vision 中的推理时计算扩展范式迁移到结构生物学。在小分子上成功率在 100 个样本时饱和,但肽界面在 1000 个样本时仍在改善——表明更难的模态从更多推理计算中获益更多。
10.3 基础模型化与下游微调
Vilya-2 超越结构作为广泛适用基础模型,可微调用于下游任务:学习比现有架构更准确地预测真实药物发现活动的亲和力测量;微调预测结合之外的性质,特别是与设计口服生物利用药物相关的性质。这体现了 AI4Science 的"预训练-微调"范式从 NLP/CV 向分子科学的渗透——一个统一的大规模预训练模型通过 LoRA 等高效微调适配多个下游任务。
10.4 肽药物 de novo 设计的使能
通过统一预测精度与跨化学空间的广泛泛化性,Vilya-2 是 de novo 肽设计流水线所需的结构预测预言机——确立全原子方法作为 de novo 肽治疗物设计和评估的通用基础。当前肽药物大多来自天然肽,de novo 设计稀缺的根本原因之一正是缺乏可靠的结构预测预言机来仲裁哪些 AI 设计的分子值得实验测试。Vilya-2 填补了这一空白。
10.5 基准开放的生态效应
Riptides 基准的发布(88 个化学多样肽-蛋白复合物)为社区提供了公平比较的测试场。这与 PoseBusters、Runs N' Poses、PoseX 等小分子基准形成互补,填补了肽界面预测评估的空白。基准驱动的评估文化正在成为 AI4Science 的标准实践——正如 GLUE 之于 NLP,ImageNet 之于 CV。
10.6 与 co-folding 路线的根本分歧
Vilya-2 不追求全链 co-folding,而是将蛋白靶标与配体的交互表述为局部、灵活的结构建模任务。虽然范围更窄,但这一框架与大多数药物发现活动一致——其中靶标的一般结构和表位已经大致已知。这一设计选择使 Vilya-2 能将推理计算集中在最关键的交互区域(1024 原子),而非浪费在整个蛋白链的 co-folding 上。Boltz-2 等方法的失败——采样不多样、置信估计不比随机好——部分源于其架构将计算分散在全链 co-folding 上。
关键数据速览与总结
核心性能指标
| 基准 | RMSD 阈值 | Vilya-2 | 最佳基线 |
|---|---|---|---|
| Riptides(肽界面) | < 2Å | 59.1%(1000样本) | Boltz-2: 40.9%(给定模板) |
| PoseBusters(小分子) | < 2Å | 85.2% | Pearl/Chai-1/Boltz-1x |
| Runs N' Poses(泛化) | < 2Å | 79.5% | Boltz-2: 最低相似度降至20% |
| PoseX-CD(交叉对接) | < 2Å | 71.1% | AlphaFold 3: 68.8% |
| Schrödinger 对比 | < 2Å | 54.1% | Schrödinger: 22.0% |
| 活性富集(EF20%) | 复合物 | 3.0× | ChemProp: 1.9×, KNN: 1.3× |
架构与效率
- 全原子统一化学图输入——无残基 token、无分子类型标注、无 MSA
- 1024 原子交互区域裁剪(约 120 残基),裁剪中心 3.2Å 空间抖动
- 训练截止 2021-09-30(比 Boltz-2 早 1.5 年)
- 112 个候选网络架构扫描,Pareto 前沿分析
- cuEquivariance 专用 CUDA 内核:高原子数 2.5× 加速,训练内存减少 42%
- 推理吞吐量最高 19× 加速(相对于 Vilya-1)
总结
Vilya-2 在通用性上前所未有——不仅在小分子上表现优越,在具有挑战性的蛋白-肽界面上也是如此。它良好地泛化到多种新设置:交叉对接、训练集未见的蛋白-配体复合物,以及在没有任何蛋白质序列或序列衍生信息的情况下折叠设计的迷你蛋白。Vilya-2 特别擅长排序,并提供何时做出准确预测的校准估计。作为基础模型,它可微调以更准确地预测真实药物发现活动的亲和力测量,也可微调预测与口服生物利用药物设计相关的性质。Vilya-2 代表了分子建模的范式转移:从大型 co-folding 网络转向统一化学表示和全原子上下文——这一转移解锁了任意蛋白-配体相互作用建模的前所未有的通用性,构成了设计广泛适用、高度多样的肽治疗物的更广泛努力的骨干。
论文链接:Vilya Research, 2026年7月27日发布 · vilya.ai
基准仓库:github.com/VilyaPublic/Riptides