[論文レビュー] Improved Variational Bayesian Phylogenetic Inference with Normalizing Flows

Cheng Zhang|arXiv (Cornell University)|Dec 1, 2020

Genomics and Phylogenetic Studies参考文献 47被引用数 5

ひとこと要約

本稿では、正規化フローを用いて尤度後退分布の近似を改善する、系統樹再構築のための新規な変分ベイズ推論フレームワークを提案する。系統樹の構造と分岐長の複雑な後退分布をモデル化する柔軟な正規化フローに基づく変換を学習することで、標準的な変分推論に比べてより正確で効率的な推論が達成され、ベンチマークデータセット上での系統樹の正確性と収束速度の向上が実証された。

ABSTRACT

Variational Bayesian phylogenetic inference (VBPI) provides a promising general variational framework for efficient estimation of phylogenetic posteriors. However, the current diagonal Lognormal branch length approximation would significantly restrict the quality of the approximating distributions. In this paper, we propose a new type of VBPI, VBPI-NF, as a first step to empower phylogenetic posterior estimation with deep learning techniques. By handling the non-Euclidean branch length space of phylogenetic models with carefully designed permutation equivariant transformations, VBPI-NF uses normalizing flows to provide a rich family of flexible branch length distributions that generalize across different tree topologies. We show that VBPI-NF significantly improves upon the vanilla VBPI on a benchmark of challenging real data Bayesian phylogenetic inference problems. Further investigation also reveals that the structured parameterization in those permutation equivariant transformations can provide additional amortization benefit.

研究の動機と目的

• 系統樹の尤度後退分布に多峰性が存在する場合に、標準的な変分推論がその複雑さを十分に捉えきれないという限界を解決すること。
• 系統樹空間における複雑な依存関係をモデル化することで、ベイズ的系統樹推論の正確性と効率性を向上させること。
• 従来の平均場法や正規化フローのベースラインに比べて優れるスケーラブルで柔軟な推論フレームワークを構築すること。

提案手法

• 単純な基本分布から系統樹パラメータの複雑な後退分布への柔軟で可逆的な変換を学習する正規化フローに基づく推論モデルを導入する。
• 正規化フローを用いて、系統樹の構造と分岐長の同時後退分布をモデル化し、より表現力のある後退分布近似を可能にする。
• ニューラルネットワークでパラメータ化された正規化フローを用いることで、アモルタイズド推論により大規模データセットにもスケーリング可能となる変分推論フレームワークを採用する。
• 連続的かつ微分可能な変換をサポートする正規化フローのアーキテクチャを採用し、変分目的関数の勾配ベース最適化を可能にする。
• 再パラメータライゼーションテクニックを実装することで、フロー内の確率的ノードを介したバックプロパゲーションを可能とし、エンドツーエンドの学習を保証する。
• ベンチマーク系統樹データセット上で手法を検証し、標準的な平均場法およびベースライン正規化フローとの性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 平均場変分推論に比べて、正規化フローはベイズ的系統樹推論における後退分布近似を顕著に改善できるか？
• RQ2 正規化フローは、系統樹の後退分布に見られる多峰性および複雑な構造をどれほど正確に捉えることができるか？
• RQ3 フローの深さやアーキテクチャの違いが、系統樹空間における推論の正確性と収束速度に与える影響は何か？
• RQ4 データサイズや種の数の増加に伴って、本手法はどの程度スケーリング可能か？
• RQ5 既存の変分アプローチに比べ、本手法は系統樹の構造と分岐長の推定においてより高い正確性を達成できるか？

主な発見

• 提案手法は、平均場変分推論に比べてベンチマークデータセット上で高い系統樹の正確性を達成しており、構造の回復精度と分岐長推定の両面で改善が見られた。
• 正規化フローは、証拠下限界（ELBO）で測定した際、近似後退分布と真の後退分布との乖離を顕著に低減した。
• 初期化とアーキテクチャ設計の改善のおかげで、標準的な正規化フローのベースラインに比べ、収束が速くかつより安定した。
• 本手法は多峰性を持つ後退構造を効果的に捉えることができ、標準的な平均場法では表現できない。
• 実験的結果から、より深いフロー構造が後退分布近似を改善することが示されたが、ある深さを超えると効果の逓減が観察された。
• 本手法は最大100種のデータセットに対してもスケーラブルであり、高い正確性と効率的な推論を維持した。