[论文解读] Moments of minors of Wishart matrices

Mathias Drton, Hélène Massam+1 more|Apr 22, 2006

Mathematical Inequalities and Applications参考文献 13被引用 31

一句话总结

本文推导出由 Wishart 分布随机矩阵构成的复合矩阵的期望和协方差矩阵的精确公式，使得在多元正态分布下能够计算样本协方差矩阵所有子式（包括 3×3 等高阶子式）的矩。关键贡献是将 Wishart 关于 2×2 子式（四元组）的经典结果推广至任意阶子式，为高斯图模型和潜变量模型中的基于约束的推断提供了理论基础。

ABSTRACT

For a random matrix following a Wishart distribution, we derive formulas for the expectation and the covariance matrix of compound matrices. The compound matrix of order $m$ is populated by all $m imes m$-minors of the Wishart matrix. Our results yield first and second moments of the minors of the sample covariance matrix for multivariate normal observations. This work is motivated by the fact that such minors arise in the expression of constraints on the covariance matrix in many classical multivariate problems.

研究动机与目标

• 推导由 Wishart 分布随机矩阵构成的复合矩阵的一阶和二阶矩的精确表达式。
• 将 Wishart 关于 2×2 子式（四元组）抽样方差的经典结果推广至任意大小的 Wishart 矩阵的任意阶子式。
• 为计算多元正态模型中子式的矩（特别是条件独立性和潜变量约束）提供理论框架。
• 通过使用高阶子式支持高斯图模型和潜变量模型中的基于约束的模型选择与拟合优度检验。
• 建立一种对高阶子式（如 3×3）进行标准化的方法，用于假设检验，而无需对复杂似然函数进行数值最大化。

提出的方法

• 利用不变性论证和 Wishart 矩阵 Choleski 分解的性质推导矩公式。
• 应用 Binet–Cauchy 定理和基于排列的展开方法，计算行列式乘积的期望。
• 利用迹和复合矩阵恒等式，推导非中心 Wishart 矩阵行列式的期望。
• 通过识别并消除条件独立性结构中期望为零的项，简化复杂的行列式展开。
• 将子式的协方差表示为总体协方差矩阵的子矩阵和复合矩阵乘积的迹。
• 采用排列符号操作和指标集划分，将多变量行列式展开简化为可处理的形式。

实验结果

研究问题

• RQ1 Wishart 分布随机矩阵的复合矩阵（即所有 m×m 子式）的期望和协方差矩阵的精确公式是什么？
• RQ2 Wishart 关于 2×2 子式（四元组）方差的经典结果如何推广至 Wishart 矩阵的高阶子式（如 3×3、4×4）？
• RQ3 在多元正态抽样背景下，高阶子式的分布性质是什么，特别是针对条件独立性和潜变量约束的检验？
• RQ4 在潜变量模型中，是否可以无需对复杂似然函数进行数值最大化，即可计算高阶子式的矩？
• RQ5 在高斯图模型和因子模型中，协方差矩阵的 m×m 子式消失的充分条件是什么？

主要发现

• 本文推导出从 Wishart 矩阵得到的 m 阶复合矩阵行列式的期望的一般公式，适用于任意 m 和任意正定协方差矩阵。
• Wishart 矩阵所有 m×m 子式的协方差矩阵可表示为总体协方差矩阵的子矩阵和复合矩阵乘积的迹。
• 对于非中心 Wishart 情况，行列式平方的期望由涉及非中心性矩阵幂的迹的有限和给出：E[det(X)^2] = ∑_{k=0}^m (m−k)! · tr[(A A^T)^{(k)}]。
• 非中心 Wishart 矩阵行列式的方差为 Var[det(X)] = ∑_{k=0}^{m-1} (m−k)! · tr[(A A^T)^{(k)}]。
• 该方法允许对高阶子式（如 3×3）进行标准化，以用于假设检验，避免在潜变量模型中进行似然函数最大化。
• 结果证实，在因子模型中（如 m−1 个因子），m×m 子式的消失对应于条件独立性约束，将四元组条件推广至更高阶。