[论文解读] An unexpected encounter with Cauchy and Lévy

Natesh S. Pillai, Xiao-Li Meng|arXiv (Cornell University)|May 8, 2015

Statistical Distribution Estimation and Applications参考文献 10被引用 7

一句话总结

该论文证明，对于任意维度 m ≥ 2，当独立同分布的正态随机变量的加权和（权重独立于变量且总和为1）的比值之和服从标准柯西分布 Cauchy(0,1)，即使变量之间存在相关性，该结论依然成立。证明基于柯西分布的角坐标几何表征和连续映射定理，将Drton与Xiao（2016）的猜想推广至一般协方差结构。

ABSTRACT

The Cauchy distribution is usually presented as a mathematical curiosity, an exception to the Law of Large Numbers, or even as an "Evil" distribution in some introductory courses. It therefore surprised us when Drton and Xiao (2016) proved the following result for $m=2$ and conjectured it for $m\ge 3$. Let $X= (X_1,..., X_m)$ and $Y = (Y_1, ...,Y_m)$ be i.i.d $N(0,Σ)$, where $Σ=\{σ_{ij}\}\ge 0$ is an $m imes m$ and extit{arbitrary} covariance matrix with $σ_{jj}>0$ for all $1\leq j\leq m$. Then $$Z = \sum_{j=1}^m w_j \frac{X_j}{Y_j} \ \sim \mathrm{Cauchy}(0,1),$$ as long as $w=(w_1,..., w_m) $ is independent of $(X, Y)$, $w_j\ge 0, j=1,..., m$, and $\sum_{j=1}^m w_j=1$. In this note, we present an elementary proof of this conjecture for any $m \geq 2$ by linking $Z$ to a geometric characterization of Cauchy(0,1) given in Willams (1969). This general result is essential to the large sample behavior of Wald tests in many applications such as factor models and contingency tables. It also leads to other unexpected results such as $$ \sum_{i=1}^m\sum_{j=1}^m \frac{w_iw_jσ_{ij}}{X_iX_j} \sim { ext{Lévy}}(0, 1). $$ This generalizes the "super Cauchy phenomenon" that the average of $m$ i.i.d. standard Lévy variables (i.e., inverse chi-squared variables with one degree of freedom) has the same distribution as that of a single standard Lévy variable multiplied by $m$ (which is obtained by taking $w_j=1/m$ and $Σ$ to be the identity matrix).

研究动机与目标

• 解决Drton与Xiao（2016）提出的猜想：当独立同分布的正态变量的加权比值之和在任意正定协方差矩阵下仍服从标准柯西(0,1)分布时，其分布是否保持不变。
• 将结果从固定权重推广至与数据独立的随机权重，从而扩大其适用范围。
• 基于二元正态变量的角表示，提供一种几何直观的证明，避免使用复分析。
• 建立柯西分布在多变量正态比值依赖结构下的稳健性。
• 阐明该结果对因子模型与列联表中Wald检验统计量渐近分布的影响。

提出的方法

• 将二元正态变量 (X_j, Y_j) 的联合分布转换为极坐标 (R_j, Θ_j)，利用当变量为 i.i.d. N(0, σ²) 时，角度 Θ_j 在 (−π, π] 上均匀分布的性质。
• 将比值 X_j / Y_j 表示为 tan(Θ_j)，并将加权和 Z = ∑ w_j X_j / Y_j 重写为 ∑ w_j tan(Θ_1 + U_j)，其中 U_j = Θ_j − Θ_1。
• 利用角度增量 U_j 与参考角 Θ_1 独立，且 Θ_1 ∼ Unif(−π, π] 的事实，证明在给定 U 的条件下，Z 服从 Cauchy(0,1)。
• 利用正切函数在模 2π 下的不变性，定义角坐标与 U_j 变量之间的一一对应关系，其雅可比行列式几乎处处为1。
• 应用连续映射定理，通过用 Σ^{(n)} = Σ + n^{-1}I 近似 Σ，并取 n → ∞ 的极限，将结果从正定协方差矩阵推广至半正定协方差矩阵。
• 利用在假设对所有 j 都有 σ_{jj} > 0 的条件下，比值映射的不连续点集合概率为零的事实，确保 Z^{(n)} 弱收敛于 Z。

实验结果

研究问题

• RQ1 当 (X_j, Y_j) 为 i.i.d. N(0, Σ)，权重 w_j 非负、总和为1且与 (X,Y) 独立时，对于任意 m ≥ 2 和满足 σ_{jj} > 0 的 Σ ≥ 0，加权比值之和 X_j / Y_j 是否服从标准柯西(0,1)分布？
• RQ2 该结果能否从固定权重推广至与数据独立的随机权重？
• RQ3 即使在分量相关的情况下，该加权和为何仍保持柯西分布的不变性？其背后的几何或概率结构是什么？
• RQ4 当协方差矩阵为奇异或仅半正定时，该和的分布行为如何？
• RQ5 该结果对因子分析与列联表模型中Wald检验统计量的渐近分布有何影响？

主要发现

• 对于任意 m ≥ 2，若权重 w_j 非负、总和为1，且与 i.i.d. N(0, Σ) 向量 X 和 Y 独立，则加权和 Z = ∑_{j=1}^m w_j X_j / Y_j ∼ Cauchy(0,1)。
• 即使 X 和 Y 的分量之间存在相关性（即 Σ 非对角阵），该结论依然成立，这在个体比值 X_j / Y_j 相互依赖的情况下出人意料。
• 证明依赖于柯西分布的几何表征：通过二元正态向量的角度，表明模 2π 均匀分布的角度的加权正切和仍服从 Cauchy(0,1)。
• 即使 Σ 为奇异矩阵，Z 的分布仍为 Cauchy(0,1)，方法是通过 Σ^{(n)} = Σ + n^{-1}I 近似 Σ，并取 n → ∞ 的极限。
• 该结果将“超柯西现象”推广至Lévy分布：∑_{i,j} w_i w_j σ_{ij} / (X_i X_j) ∼ Lévy(0,1)，扩展了 i.i.d. 逆卡方变量的已知性质。
• 核心洞见在于：角分量 Θ_1 服从均匀分布且与相对角 U_j 独立，这确保了在正切变换下加权和分布的不变性。