[论文解读] On equivalence of the LKJ distribution and the restricted Wishart distribution

Zhenxun Wang, Yunan Wu+1 more|arXiv (Cornell University)|Sep 13, 2018

Advanced Statistical Methods and Models被引用 4

一句话总结

本文建立了限制Wishart分布与LKJ分布之间的等价性，证明两者在相关系数矩阵上产生相同的先验分布。作者提出一种基于限制Wishart分布的新方法来生成随机相关系数矩阵，其速度显著快于传统的洋葱法，尤其在低维情形（T < 120）下，模拟结果显示速度提升最高达2.2倍。

ABSTRACT

In this paper, we want to show the Restricted Wishart distribution is equivalent to the LKJ distribution, which is one way to specify a uniform distribution from the space of positive definite correlation matrices. Based on this theorem, we propose a new method to generate random correlation matrices from the LKJ distribution. This new method is faster than the original onion method for generating random matrices, especially in the low dimension ($T&lt;120$) situation.

研究动机与目标

• 建立限制Wishart分布与相关系数矩阵的LKJ分布之间的理论等价性。
• 提出一种基于限制Wishart框架的新计算方法，用于从LKJ分布生成随机相关系数矩阵。
• 通过提供一种比现有洋葱法更快的替代方法，提升贝叶斯建模中的计算效率。
• 通过偏相关系数参数化方式，深化对Wishart分布的理解。

提出的方法

• 通过将Wishart分布应用分离策略，将协方差矩阵分解为方差与相关系数矩阵，推导出限制Wishart分布。
• 利用Bartlett分解，通过卡方分布和标准正态变量的下三角矩阵分解，生成Wishart分布矩阵。
• 推导出在限制Wishart分布下相关系数矩阵的联合密度，并通过雅可比变换与伽马函数恒等式证明其与LKJ密度一致。
• 通过归一化常数的数学归纳法证明等价性，确认限制Wishart分布与LKJ分布同分布。
• 通过从限制Wishart分布中抽样并将其生成的协方差矩阵转换为相关系数矩阵，生成随机相关系数矩阵。
• 使用R语言对计算性能进行基准测试，测量从T = 20到280各维度下的运行时间。

实验结果

研究问题

• RQ1 限制Wishart分布与相关系数矩阵的LKJ分布是否在数学上等价？
• RQ2 限制Wishart分布能否作为生成LKJ分布相关系数矩阵的高效替代方法？
• RQ3 在低维与高维设置下，限制Wishart方法相比洋葱法具有多大的计算性能优势？
• RQ4 限制Wishart框架中的偏相关系数参数化方式与LKJ分布的构造之间有何关系？

主要发现

• 通过归一化常数的归纳法与伽马函数恒等式验证，证明限制Wishart分布与LKJ分布数学上等价。
• 基于限制Wishart分布的新方法生成随机相关系数矩阵的速度快于洋葱法，尤其在低维情形（T < 120）下，T = 20时观察到最高达2.2倍的速度提升。
• 在T = 20时，限制Wishart方法生成5,000个矩阵耗时0.70秒，而洋葱法耗时1.53秒。
• 在更高维情形（T ≥ 240）下，性能差距缩小，两种方法生成5,000个矩阵均耗时约44–50秒。
• 限制Wishart方法与逆限制Wishart方法计算效率相当，且在低维情形下均优于洋葱法。
• 该等价性为通过偏相关系数参数化使用Wishart分布作为相关系数矩阵的先验分布提供了理论依据。