[논문 리뷰] The effect of gene flow on coalescent-based species-tree inference

Colby Long, Laura Kubatko|arXiv (Cornell University)|2017. 10. 10.

Genetic diversity and population structure참고 문헌 21인용 수 9

한 줄 요약

이 논문은 삼자계 종 간 유전자 이동이 공통 조상 기반 종 계통수 추정에 미치는 영향을 조사하며, 일반화된 삼자계 고립-유전자 이동 모델 하에서 유전자 계통수 위상 확률을 유도한다. 연구는 유전자 이동과 변동하는 개체군 크기가 비일관된 유전자 계통수(즉, 종 계통수가 가장 낮은 확률을 가지는 위상)를 생성할 수 있음을 보여주며, SVDQuartets는 이러한 조건 하에서도 통계적으로 일致함을 입증한다. 반면 ASTRAL과 MP-EST는 유전자 이동이 존재할 경우 일치하지 않을 수 있음을 밝힌다.

ABSTRACT

Most current methods for inferring species-level phylogenies under the coalescent model assume that no gene flow occurs following speciation. While some studies have examined the impact of gene flow on estimation accuracy for certain methods, limited analytical work has been undertaken to directly assess the potential effect of gene flow across a species phylogeny. In this paper, we consider a three-taxon isolation-with-migration model that allows gene flow between sister taxa for a brief period following speciation, as well as variation in the effective population sizes across the tree. We derive the probabilities of each of the three gene tree topologies under this model, and show that for certain choices of the gene flow and effective population size parameters, anomalous gene trees (i.e., gene trees that are discordant with the species tree but that have higher probability than the gene tree concordant with the species tree) exist. We characterize the region of parameter space producing anomalous trees, and show that the probability of the gene tree that is concordant with the species tree can be arbitrarily small. We then show that the SVDQuartets method is theoretically valid under the model of gene flow between sister taxa. We study its performance on simulated data and compare it to two other commonly-used methods for species tree inference, ASTRAL and MP-EST. The simulations show that ASTRAL and MP-EST can be statistically inconsistent when gene flow is present, while SVDQuartets performs well, though large sample sizes may be required for certain parameter choices.

연구 동기 및 목표

• 다종 공통 조상 모델 하에서 유전자 이동이 종 계통수 추정에 미치는 영향을 평가하기 위해.
• 자매 종 간 유전자 이동과 변동하는 효과적 개체군 크기를 포함하여 기존 모델을 확장하기 위해.
• 이러한 모델 하에서 비정상적인 유전자 계통수가 발생할 수 있는지 확인하기 위해.
• 인기 있는 종 계통수 방법들인 SVDQuartets, ASTRAL, MP-EST의 통계적 일致성 여부를 유전자 이동 조건 하에서 평가하기 위해.
• 분화 이후 유전자 이동과 개체군 크기 변동을 고려한 생물학적으로 현실적인 종 계통수 추정 프레임워크를 제공하기 위해.

제안 방법

• 분화 이후 일정 기간 동안 자매 종 간 유전자 이동을 允許하는 삼자계 고립-유전자 이동(IM) 모델을 개발함.
• 모델 하에서 세 가지 가능한 유전자 계통수 위상 각각의 확률에 대한 명시적 수학적 표현을 유도함.
• 비정상적인 유전자 계통수 존재 가능한 매개변수 공간을 규명함. 비정상적인 유전자 계통수란 종 계통수와 이질적인 위상이지만, 일치하는 위상보다 더 높은 확률을 가지는 경우를 정의함.
• 수학적 유도를 통해 제안된 일반화된 IM 모델 하에서 SVDQuartets의 이론적 타당성을 평가함.
• 다유전자 자료를 사용한 시뮬레이션을 수행하여, 다양한 유전자 이동 및 개체군 크기 조건 하에서 SVDQuartets, ASTRAL, MP-EST의 성능을 비교함.
• 유전자 계통수 자료와 공통 조상 독립적 사이트를 사용하여 방법의 성능을 평가하고, 강인성 테스트를 수행함.

실험 결과

연구 질문

• RQ1 자매 종 간 유전자 이동이 삼종 공통 조상 모델에서 비정상적인 유전자 계통수 존재 조건은 무엇인가?
• RQ2 유전자 이동과 변동하는 개체군 크기 조건 하에서, 종 계통수와 일치하는 유전자 계통수 위상의 확률을 임의로 작게 만들 수 있는가?
• RQ3 분화 이후 유전자 이동과 변동하는 효과적 개체군 크기를 포함한 모델 하에서 SVDQuartets는 통계적으로 일치하는가?
• RQ4 ASTRAL과 MP-EST는 유전자 이동 조건 하에서 어떻게 작동하며, 어떤 매개변수 영역에서는 통계적으로 일치하지 않을 수 있는가?
• RQ5 높은 수준의 유전자 이동 조건 하에서 종 계통수 방법의 성능은 떨어지는가? 그리고 큰 표본 크기는 모델 위반에 대한 보완이 될 수 있는가?

주요 결과

• 대칭 이동과 분자 시계 가정이 존재하더라도, 유전자 이동과 변동하는 효과적 개체군 크기가 존재할 경우 일반화된 삼자계 IM 모델 하에서 비정상적인 유전자 계통수가 존재할 수 있음.
• 일부 매개변수 조합 하에서는 종 계통수와 일치하는 유전자 계통수 위상의 확률를 임의로 작게 만들 수 있으며, 이는 유전자 계통수와 종 계통수 간 강한 이질성을 시사함.
• 제안된 모델 하에서 SVDQuartets는 이론적으로 타당하고 통계적으로 일치함. 유전자 이동이 존재하더라도 정확성을 유지함.
• ASTRAL과 MP-EST는 특정 매개변수 선택 조건 하에서 유전자 이동 존재 시 통계적으로 일치하지 않음. 이는 잘못된 종 계통수 추정을 초래할 수 있음.
• 모든 세 방법은 매우 높은 유전자 이동 조건 하에서 정확도가 저하되나, SVDQuartets는 충분한 데이터가 제공될 경우 일관성을 유지함. 반면 ASTRAL과 MP-EST는 모델 위반에도 불구하고 높은 부트스트랩 지지도를 보여줄 수 있음.