[论文解读] Modelling of directional data using Kent distributions

Parthan Kasarapu|arXiv (Cornell University)|Jun 26, 2015

Bayesian Methods and Mixture Models参考文献 33被引用 5

一句话总结

本文提出一种基于最小消息长度（MML）原理的贝叶斯估计框架，用于 Kent 分布，以克服传统矩估计和最大似然估计的局限性。基于 MML 的参数估计表现出更低的偏差和均方误差，且该方法能够实现对方向数据的可靠混合建模，在描述蛋白质构象数据方面优于 von Mises-Fisher 模型。

ABSTRACT

The modelling of data on a spherical surface requires the consideration of directional probability distributions. To model asymmetrically distributed data on a three-dimensional sphere, Kent distributions are often used. The moment estimates of the parameters are typically used in modelling tasks involving Kent distributions. However, these lack a rigorous statistical treatment. The focus of the paper is to introduce a Bayesian estimation of the parameters of the Kent distribution which has not been carried out in the literature, partly because of its complex mathematical form. We employ the Bayesian information-theoretic paradigm of Minimum Message Length (MML) to bridge this gap and derive reliable estimators. The inferred parameters are subsequently used in mixture modelling of Kent distributions. The problem of inferring the suitable number of mixture components is also addressed using the MML criterion. We demonstrate the superior performance of the derived MML-based parameter estimates against the traditional estimators. We apply the MML principle to infer mixtures of Kent distributions to model empirical data corresponding to protein conformations. We demonstrate the effectiveness of Kent models to act as improved descriptors of protein structural data as compared to commonly used von Mises-Fisher distributions.

研究动机与目标

• 解决传统矩估计器在 Kent 分布中缺乏严格统计处理的问题。
• 开发一种针对 Kent 分布的贝叶斯估计方法，其复杂性源于其非指数族形式及复杂的归一化常数。
• 应用最小消息长度（MML）准则，推断方向数据最优的 Kent 分布混合模型。
• 评估并比较基于 MML 的估计器与矩估计器和最大似然估计器在参数估计和混合成分选择方面的性能。
• 证明 Kent 混合模型在描述蛋白质构象数据方面优于常用的 von Mises-Fisher 模型。

提出的方法

• 采用最小消息长度（MML）原理，将五参数 Kent 分布（FB₅）的参数估计视为数据压缩问题，推导其贝叶斯参数估计。
• 利用 MML 框架对模型参数和数据进行编码，通过最小化总消息长度获得最优估计。
• 推导 Kent 分布的归一化常数，表示为包含 Gamma 函数和修正贝塞尔函数的无穷级数，该常数对似然计算至关重要。
• 实施一种基于全面扰动的搜索方法，以确定 FB₅ 混合模型中最佳的混合成分数量。
• 将 MML 与传统准则（AIC、BIC）进行比较，表明 MML 能够区分具有相同成分数量但参数估计不同的模型，而 AIC 和 BIC 因惩罚项相同而无法区分。
• 将所得的基于 MML 的混合模型应用于实际蛋白质构象数据，使用球坐标系（θ, φ）表示方向取向。

实验结果

研究问题

• RQ1 最小消息长度（MML）原理能否有效应用于推导复杂 Kent 分布的贝叶斯参数估计？
• RQ2 基于 MML 的参数估计与传统的矩估计器和最大似然估计器相比，在偏差和均方误差方面表现如何？
• RQ3 基于 MML 的模型选择能否可靠地确定 Kent 分布混合模型的成分数量，尤其是在 AIC 和 BIC 无法区分具有相同成分数量但参数估计不同的模型时？
• RQ4 与常用的 von Mises-Fisher 混合模型相比，Kent 分布的混合模型是否能更好地拟合实际蛋白质构象数据？
• RQ5 MML 框架是否能够区分具有相同成分数量但参数估计不同的混合模型，而 AIC 和 BIC 无法做到？

主要发现

• 与矩估计器和最大似然估计器相比，基于 MML 的 Kent 分布参数估计表现出显著更低的偏差和均方误差。
• MML 准则能够成功区分具有相同成分数量但参数估计不同的混合模型，而 AIC 和 BIC 因惩罚项相同而无法区分。
• 对于完整的蛋白质数据集（N = 251,346），MML 基于的搜索方法推断出约 K=30 个稳定成分，而 AIC 和 BIC 在此之后表现出模糊趋势。
• 在较小的数据子集上（N = 1,000 至 20,000），MML 和 BIC 产生相似且稳定的成分数量，而 AIC 始终选择更多成分。
• 基于 Kent 分布的混合模型（FB₅）在描述蛋白质构象数据方面优于 von Mises-Fisher 混合模型，可作为结构生物学中更优的零模型。
• 基于 MML 的估计器具有参数重参数化不变性，这是其相对于 MAP 估计器的关键优势，提升了其鲁棒性与可靠性。