[论文解读] The effect of gene flow on coalescent-based species-tree inference

Colby Long, Laura Kubatko|arXiv (Cornell University)|Oct 10, 2017

Genetic diversity and population structure参考文献 21被引用 9

一句话总结

本文研究了姐妹种间基因流对基于共祖先过程的物种树推断的影响，推导了在广义三物种隔离-迁移模型下基因树拓扑的概率。研究发现，基因流与可变种群大小可导致异常基因树——即物种树的概率低于不一致的拓扑结构——并证明SVDQuartets在这些条件下仍保持统计一致性，而ASTRAL与MP-EST在存在基因流时可能不一致。

ABSTRACT

Most current methods for inferring species-level phylogenies under the coalescent model assume that no gene flow occurs following speciation. While some studies have examined the impact of gene flow on estimation accuracy for certain methods, limited analytical work has been undertaken to directly assess the potential effect of gene flow across a species phylogeny. In this paper, we consider a three-taxon isolation-with-migration model that allows gene flow between sister taxa for a brief period following speciation, as well as variation in the effective population sizes across the tree. We derive the probabilities of each of the three gene tree topologies under this model, and show that for certain choices of the gene flow and effective population size parameters, anomalous gene trees (i.e., gene trees that are discordant with the species tree but that have higher probability than the gene tree concordant with the species tree) exist. We characterize the region of parameter space producing anomalous trees, and show that the probability of the gene tree that is concordant with the species tree can be arbitrarily small. We then show that the SVDQuartets method is theoretically valid under the model of gene flow between sister taxa. We study its performance on simulated data and compare it to two other commonly-used methods for species tree inference, ASTRAL and MP-EST. The simulations show that ASTRAL and MP-EST can be statistically inconsistent when gene flow is present, while SVDQuartets performs well, though large sample sizes may be required for certain parameter choices.

研究动机与目标

• 评估在多物种共祖先模型下基因流对物种树推断的影响。
• 通过引入姐妹类群之间的基因流和可变有效种群大小，扩展现有模型。
• 确定在这些模型下是否可能出现异常基因树。
• 评估SVDQuartets、ASTRAL与MP-EST等流行物种树方法在基因流条件下的统计一致性。
• 提供一个生物上合理的物种树估计框架，考虑物种形成后的基因流与种群大小变化。

提出的方法

• 构建一个三物种隔离-迁移（IM）模型，允许在物种形成后有限时间内发生姐妹类群之间的基因流。
• 推导出在该模型下三种可能基因树拓扑结构的概率的显式数学表达式。
• 刻画异常基因树存在的参数空间，定义为与物种树不一致但比一致拓扑更可能的拓扑结构。
• 通过数学推导评估SVDQuartets在广义IM模型下的理论有效性。
• 使用多基因座数据进行模拟，比较SVDQuartets、ASTRAL与MP-EST在不同基因流与种群大小条件下的表现。
• 分别使用基因树数据与共祖先独立位点评估方法性能，以检验其稳健性。

实验结果

研究问题

• RQ1 在三物种共祖先模型中，姐妹类群之间的基因流在何种条件下会导致异常基因树的存在？
• RQ2 在基因流与可变种群大小下，与物种树一致的基因树拓扑概率是否可被任意缩小？
• RQ3 SVDQuartets在包含物种形成后基因流与可变有效种群大小的模型下是否具有统计一致性？
• RQ4 ASTRAL与MP-EST在基因流条件下的表现如何？在某些参数区域是否可能不一致？
• RQ5 在高基因流条件下，物种树方法的性能是否会下降？大样本量能否弥补模型误配？

主要发现

• 在广义三物种IM模型下，当存在基因流与可变有效种群大小时，即使在对称迁移与分子钟假设下，仍可能出现异常基因树。
• 在某些参数组合下，与物种树一致的基因树拓扑概率可被任意缩小，表明基因树与物种树之间存在强烈不一致。
• SVDQuartets在所提模型下具有理论有效性与统计一致性，即使存在基因流也能保持正确性。
• ASTRAL与MP-EST在某些参数选择下因基因流而表现出统计不一致性，可能导致物种树估计错误。
• 所有三种方法在极高基因流下准确率均下降，但SVDQuartets在足够数据下仍保持一致性，而ASTRAL与MP-EST可能在模型误配下产生误导性的高自 resampling 支持率。