[논문 리뷰] A Variational Approach to Bayesian Phylogenetic Inference

Cheng Zhang, Frederick A. Matsen|arXiv (Cornell University)|2022. 04. 16.

Genomics and Phylogenetic Studies인용 수 5

한 줄 요약

이 논문은 나무 구조 분포에 대한 부분 분할 베이지안 네트워크와 분지 길이에 대한 구조적 암시적 최적화를 조합한 변분 베이지안 계통발생 추론(VBPI) 프레임워크를 제안한다. 이는 복합 이산-연속 나무 공간에서 효율적인 동시 추론을 가능하게 하며, 확률적 경사 상승법과 이산 및 연속 변수에 대한 별도의 기울기 추정기구를 사용해 MCMC에 비해 훨씬 더 빠른 수렴을 달성한다.

ABSTRACT

Bayesian phylogenetic inference is currently done via Markov chain Monte Carlo (MCMC) with simple proposal mechanisms. This hinders exploration efficiency and often requires long runs to deliver accurate posterior estimates. In this paper, we present an alternative approach: a variational framework for Bayesian phylogenetic analysis. We propose combining subsplit Bayesian networks, an expressive graphical model for tree topology distributions, and a structured amortization of the branch lengths over tree topologies for a suitable variational family of distributions. We train the variational approximation via stochastic gradient ascent and adopt gradient estimators for continuous and discrete variational parameters separately to deal with the composite latent space of phylogenetic models. We show that our variational approach provides competitive performance to MCMC, while requiring much fewer (though more costly) iterations due to a more efficient exploration mechanism enabled by variational inference. Experiments on a benchmark of challenging real data Bayesian phylogenetic inference problems demonstrate the effectiveness and efficiency of our methods.

연구 동기 및 목표

• 베이지안 계통발생 추론에서 고차원적이고 조합적으로 복잡한 나무 공간을 탐색하는 데 있어 MCMC의 비효율성을 해결하기 위해.
• 나무 구조와 분지 길이를 동시에 모델링하는 유연하고 처리 가능한 변분 가족을 개발하기 위해.
• 이산적 나무 구조와 연속적 분지 길이로 이루어진 복합 잠재 공간에서 별도의 기울기 추정기구를 통해 효율적인 최적화를 가능하게 하기 위해.
• 변분 추론이 더 적은 반복 횟수(비록 각 반복이 더 비쌀 수는 있지만)로 MCMC의 정확도에 근접할 수 있음을 보여주기 위해.

제안 방법

• 이산적 나무 구조 분포에 대한 부분 분할 베이지안 네트워크(SBNs)와 분지 길이에 대한 조건부 정규 분포를 조합한 변분 가족을 제안한다.
• 공유되는 변분 매개변수를 사용해 나무 구조에 조건부로 분지 길이의 사후 분포를 매개변수화하기 위해 구조적 암시적 최적화를 적용한다.
• 확률적 경사 상승법을 사용해 변분 하한을 최적화하며, 이산(정점 매개변수) 및 연속(분지 길이 매개변수) 잠재 변수에 대해 별도의 기울기 추정기구를 사용한다.
• 연속 변수에는 재구성 기반 기울기, 이산 변수에는 REINFORCE 유형의 추정기구를 적용해 혼합 이산-연속 잠재 공간을 처리한다.
• 변분 근사에 기반한 중요도 샘플링을 통합해 주변 가능도와 모델 증거를 추정한다.
• 이질적 시기의 공통 조상 모델을 포함한 도전적인 사후 분포를 가진 실제 계통발생 데이터셋을 대상으로 프레임워크를 검증한다.

실험 결과

연구 질문

• RQ1 완전한 변분 접근법이 MCMC에 비해 나무 구조와 분지 길이의 사후 분포를 더 효율적으로 근사할 수 있는가?
• RQ2 표준 MCMC에 비해 부분 분할 베이지안 네트워크는 복잡하고 다중 모드를 가진 계통발생 사후 분포를 얼마나 잘 모델링할 수 있는가?
• RQ3 분지 길이에 대한 구조적 암시적 최적화가 정확도를 유지하면서도 추론 효율성을 향상시킬 수 있는가?
• RQ4 변분 계통발생 추론에서 반복당 계산 비용과 수렴 속도 사이의 상충 관계는 어떠한가?
• RQ5 변분 근사는 모델 선택을 위한 신뢰할 수 있는 주변 가능도 추정에 기여할 수 있는가?

주요 결과

• VBPI는 흩어진 사후 분포와 다수의 고사후 피크를 가진 데이터셋을 포함한 벤치마크 데이터셋에서 MCMC에 경쟁 가능한 사후 근사를 달성한다.
• 더 비싼 반복이지만, 나무 공간 탐색의 효율성이 높아 MCMC에 비해 훨씬 더 빠른 수렴을 보였다.
• 특히 사후 분포가 흩어져 있고 MCMC가 장시간 실행이 필요한 경우, VBPI는 진정한 사후 분포에 대한 KL 발산에서 MCMC를 초월한다.
• 변분 근사에 기반한 중요도 샘플링은 주변 가능도에 대한 날카운 하한을 제공하며, K=1,000개의 샘플로 베이지안 모델 선택에 활용 가능하다.
• 이산 및 연속 변수에 대해 별도의 기울기 추정기구를 사용함으로써 복합 잠재 공간에서 안정적인 최적화가 가능했다.
• VBPI에서 유도된 공통 나무는 실제 데이터(예: DS1 데이터셋)의 진정한 MCMC 결과와 시각적 비교에서 유사하게 나타났다.