[论文解读] A new method to simulate the Bingham and related distributions in directional data analysis with applications

John T. Kent, Asaad M. Ganeiber+1 more|arXiv (Cornell University)|Oct 30, 2013

Morphological variations and asymmetry参考文献 19被引用 30

一句话总结

本文提出了一种新颖的接受-拒绝模拟方法，用于球面上的Bingham分布，采用方向中心极限高斯（ACG）分布作为包络，实现了高效率和广泛适用性。该方法可扩展至球面上的Fisher、Fisher-Bingham及相关的分布，以及流形上的分布，显著优于以往的MCMC方法和效率较低的接受-拒绝方法，尤其在高浓度区域表现突出。

ABSTRACT

A new acceptance-rejection method is proposed and investigated for the Bingham distribution on the sphere using the angular central Gaussian distribution as an envelope. It is shown to have high efficiency and to be straightfoward to use. The method can also be extended to Fisher and Fisher-Bingham distributions on spheres and related manifolds.

研究动机与目标

• 开发一种针对球面上Bingham分布的高效率、通用型模拟方法，该方法此前因缺乏可处理的包络而难以实现。
• 将所提出的接受-拒绝框架扩展至球面及Stiefel和Grassmann流形等相关流形上的Fisher和Fisher-Bingham分布。
• 克服现有MCMC和接受-拒绝方法的局限性，特别是在效率显著下降的高浓度区域。
• 提供一种统一的、计算上可行的模拟方法，超越早期的MCMC和效率较低的A/R算法。
• 使复杂统计模型中方向数据的实际应用成为可能，例如蛋白质对齐和随机旋转矩阵。

提出的方法

• 该方法采用方向中心极限高斯（ACG）分布作为Bingham分布的提议（包络）分布，利用其已知的可处理性和闭式密度表达式。
• 通过未归一化密度的比值构建接受-拒绝算法，其中存在一个上界 $ M^* $，确保对所有 $ x $ 满足 $ f^*(x) \leq M^* g^*(x) $，其中 $ f^* $ 和 $ g^* $ 分别为目标分布和提议分布的未归一化密度。
• 通过优化控制包络形状的ACG参数 $ b $ 来最大化算法效率，利用ACG分布已知的归一化常数。
• 通过结合Bingham方法与额外的位置和集中参数，将该算法扩展至Fisher和Fisher-Bingham分布，使用相同的接受-拒绝框架。
• 对于 $ SO(r) $ 和 $ \mathcal{V}_{r,q} $ 上的矩阵Fisher和矩阵Fisher-Bingham分布，该方法利用同构关系（例如，$ SO(3) \simeq S_2 $）将其简化为球面情形。
• 该方法通过确保高接受率，避免依赖MCMC，尤其在高浓度下，此前方法往往失效或效率低下。

实验结果

研究问题

• RQ1 能否基于可处理的包络分布，为Bingham分布开发一种高效率的接受-拒绝方法？
• RQ2 ACG分布如何被有效用作包络，以在不同集中参数下实现高接受率？
• RQ3 Bingham模拟方法在多大程度上可扩展至球面及相关流形上的Fisher和Fisher-Bingham分布？
• RQ4 在高浓度下，该方法与现有MCMC和接受-拒绝方法相比，在效率和鲁棒性方面表现如何？
• RQ5 该框架能否推广至矩阵值方向分布，如 $ SO(r) $ 和 $ \mathcal{V}_{r,q} $ 上的矩阵Fisher和矩阵Fisher-Bingham分布？

主要发现

• 所提出的BACG（Bingham-方向中心极限高斯）方法在Bingham分布的所有集中水平下均表现出高效率，尤其在高浓度下接受率接近1。
• 该方法超越了Kume和Walker（2006）针对Bingham分布的MCMC方法，提供确定性模拟，保证收敛且无需预烧期。
• 对于 $ S_2 $ 上的Fisher-Bingham分布，基于BACG的方法优于早期接受-拒绝方法（如Wood，1987）和Kume与Walker（2009）的MCMC方法，尤其在高浓度下表现更优。
• 该方法在 $ SO(3) $ 上的矩阵Fisher分布中也表现高效，通过偶然同构 $ SO(3) \simeq S_2 $ 将问题简化为 $ S_2 $ 上的Bingham情形，实现高效模拟。
• BACG方法提供了一个统一框架，可通过参数化和包络优化，扩展至更高维流形，包括Stiefel和Grassmann流形。
• 该方法在早期接受-拒绝方法易发生效率崩溃的场景下依然表现稳健高效，例如在 $ p>2 $ 时的非对齐Fisher-Bingham情形。