[论文解读] Improved Variational Bayesian Phylogenetic Inference with Normalizing Flows

Cheng Zhang|arXiv (Cornell University)|Dec 1, 2020

Genomics and Phylogenetic Studies参考文献 47被引用 5

一句话总结

该论文提出了一种新颖的变分贝叶斯推断框架，利用归一化流（normalizing flows）改进后验分布的近似。通过学习灵活的、基于归一化流的归一化流，以建模树拓扑结构和分支长度上的复杂后验分布，该方法在标准变分推断基础上实现了更高的准确性和效率，且在基准数据集上展现出树结构准确率和收敛速度的提升。

ABSTRACT

Variational Bayesian phylogenetic inference (VBPI) provides a promising general variational framework for efficient estimation of phylogenetic posteriors. However, the current diagonal Lognormal branch length approximation would significantly restrict the quality of the approximating distributions. In this paper, we propose a new type of VBPI, VBPI-NF, as a first step to empower phylogenetic posterior estimation with deep learning techniques. By handling the non-Euclidean branch length space of phylogenetic models with carefully designed permutation equivariant transformations, VBPI-NF uses normalizing flows to provide a rich family of flexible branch length distributions that generalize across different tree topologies. We show that VBPI-NF significantly improves upon the vanilla VBPI on a benchmark of challenging real data Bayesian phylogenetic inference problems. Further investigation also reveals that the structured parameterization in those permutation equivariant transformations can provide additional amortization benefit.

研究动机与目标

• 解决标准变分推断在捕捉系统发育树后验分布中复杂、多模态结构方面的局限性。
• 通过建模树空间中的复杂依赖关系，提升贝叶斯系统发育推断的准确性和效率。
• 开发一种可扩展且灵活的推断框架，使其在系统发育应用中优于传统的均值场方法和归一化流基线。

提出的方法

• 提出一种基于归一化流的推断模型，通过学习从简单基分布到系统发育树参数复杂后验分布的灵活、可逆变换。
• 应用归一化流对树拓扑结构和分支长度的联合后验分布进行建模，实现更具表达力的后验近似。
• 采用变分推断框架并结合摊销推断，通过神经网络参数化流结构，实现对大规模数据集的可扩展性。
• 采用支持连续、可微变换的归一化流架构，支持基于梯度的变分目标优化。
• 实现重参数化技巧，使梯度可反向传播通过流中的随机节点，确保端到端训练。
• 在基准系统发育数据集上验证该方法，与标准均值场方法和基线归一化流方法进行性能对比。

实验结果

研究问题

• RQ1 与均值场变分推断相比，归一化流是否能显著改善贝叶斯系统发育推断中的后验近似？
• RQ2 归一化流在多模态和复杂结构的系统发育树后验分布中表现如何？
• RQ3 流的深度和架构对树空间中推断准确率和收敛速度有何影响？
• RQ4 随着数据集规模和物种数量的增加，该方法的可扩展性如何？
• RQ5 该方法是否能在树拓扑结构和分支长度估计方面实现比现有变分方法更高的准确率？

主要发现

• 与均值场变分推断相比，所提方法在基准数据集上实现了更高的树结构准确率，显著提升了拓扑结构恢复和分支长度估计的性能。
• 归一化流显著降低了近似后验与真实后验之间的差异，如证据下界（ELBO）所衡量。
• 由于更优的初始化和架构设计，该模型收敛速度更快且更稳定，优于标准归一化流基线。
• 该方法成功捕捉了多模态后验结构，而标准均值场方法无法有效表示此类结构。
• 实证结果表明，更深的流架构可提升后验近似效果，但超过一定深度后收益递减。
• 该方法在包含最多100个物种的数据集上展现出良好的可扩展性，同时保持高准确率和高效的推断性能。