[論文レビュー] An unexpected encounter with Cauchy and Lévy

Natesh S. Pillai, Xiao-Li Meng|arXiv (Cornell University)|May 8, 2015

Statistical Distribution Estimation and Applications参考文献 10被引用数 7

ひとこと要約

本稿は、独立で同一分布でない正規確率変数の比の重み付き和が、重みが変数と独立で合計が1である場合、任意の次元 m ≥ 2 において、相関があっても標準コーシー(0,1)分布に従うことを証明している。証明は、コーシー分布の角座標による幾何的特徴づけと連続写像定理を用い、DrtonとXiao（2016）の予想を一般の共分散構造へ拡張するものである。

ABSTRACT

The Cauchy distribution is usually presented as a mathematical curiosity, an exception to the Law of Large Numbers, or even as an "Evil" distribution in some introductory courses. It therefore surprised us when Drton and Xiao (2016) proved the following result for $m=2$ and conjectured it for $m\ge 3$. Let $X= (X_1,..., X_m)$ and $Y = (Y_1, ...,Y_m)$ be i.i.d $N(0,Σ)$, where $Σ=\{σ_{ij}\}\ge 0$ is an $m imes m$ and extit{arbitrary} covariance matrix with $σ_{jj}>0$ for all $1\leq j\leq m$. Then $$Z = \sum_{j=1}^m w_j \frac{X_j}{Y_j} \ \sim \mathrm{Cauchy}(0,1),$$ as long as $w=(w_1,..., w_m) $ is independent of $(X, Y)$, $w_j\ge 0, j=1,..., m$, and $\sum_{j=1}^m w_j=1$. In this note, we present an elementary proof of this conjecture for any $m \geq 2$ by linking $Z$ to a geometric characterization of Cauchy(0,1) given in Willams (1969). This general result is essential to the large sample behavior of Wald tests in many applications such as factor models and contingency tables. It also leads to other unexpected results such as $$ \sum_{i=1}^m\sum_{j=1}^m \frac{w_iw_jσ_{ij}}{X_iX_j} \sim { ext{Lévy}}(0, 1). $$ This generalizes the "super Cauchy phenomenon" that the average of $m$ i.i.d. standard Lévy variables (i.e., inverse chi-squared variables with one degree of freedom) has the same distribution as that of a single standard Lévy variable multiplied by $m$ (which is obtained by taking $w_j=1/m$ and $Σ$ to be the identity matrix).

研究の動機と目的

• DrtonとXiao（2016）が提起した予想を解消する。すなわち、i.i.d. 正規変数の比の重み付き和が、任意の正定値共分散行列のもとでも標準コーシー(0,1)分布に従することを示す。
• 固定重みからデータと独立な確率的重みへの結果の拡張を行い、適用範囲を広げる。
• 2次元正規変数の角座標表現に基づく幾何的で直感的な証明を提供し、複素解析を避ける。
• 多変量正規比における従属構造下でもコーシー分布の頑健性を確立する。
• この結果が要因モデルや連関表における Wald 検定統計量の漸近的分布に与える影響を示す。

提案手法

• 2次元正規変数 (X_j, Y_j) の連合分布を極座標 (R_j, Θ_j) に変換し、変数が i.i.d. N(0, σ²) のとき、角度 Θ_j が (−π, π] 上で一様分布に従うという事実を活用する。
• 比 X_j / Y_j を tan(Θ_j) として表現し、重み付き和 Z = ∑ w_j X_j / Y_j を ∑ w_j tan(Θ_1 + U_j) として書き直す。ここで U_j = Θ_j − Θ_1 である。
• 角の差分 U_j が基準角 Θ_1 と独立であり、Θ_1 ∼ Unif(−π, π] であることを用い、U を条件付けたとき Z が Cauchy(0,1) に従うことを示す。
• 正接関数の 2π による周期性を活用し、角座標と U_j 変数との間で1対1の変換を定義し、ヤコビアン行列式をほとんど everywhere で1とする。
• 連続写像定理を用いて、正定値共分散行列から非負定値行列への結果の拡張を行う。Σ を Σ^{(n)} = Σ + n^{-1}I で近似し、n → ∞ の極限をとる。
• すべての j に対して σ_{jj} > 0 であると仮定すると、比写像の不連続点集合の確率が0であることを用い、Z^{(n)} から Z への弱収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 m ≥ 2 かつ σ_{jj} > 0 を満たす任意の Σ ≥ 0 に対して、(X_j, Y_j) が i.i.d. N(0, Σ) であり、重み w_j が非負で合計が1、かつ (X,Y) と独立であるとき、比 X_j / Y_j の重み付き和 Z は標準コーシー(0,1)分布に従うか？
• RQ2 固定重みからデータと独立な確率的重みへの結果の拡張は可能か？
• RQ3 相関のある成分を含んでも、重み付き和におけるコーシー分布の不変性を裏付ける幾何的または確率的構造は何か？
• RQ4 共分散行列が特異的または非負定値である場合、和の分布はどのように振る舞うか？
• RQ5 この結果が要因分析や連関表などのモデルにおける Wald 検定統計量の漸近的分布に与える影響は何か？

主な発見

• 重み w_j が非負で合計が1、かつ i.i.d. N(0, Σ) のベクトル X と Y と独立である限り、任意の m ≥ 2 に対して、重み付き和 Z = ∑_{j=1}^m w_j X_j / Y_j は Cauchy(0,1) に従う。
• 成分が相関を持つ場合（つまり Σ が対角でない場合）でも、この結果は成り立つ。これは、個々の比 X_j / Y_j が従属であるにもかかわらず、驚くべきことである。
• 証明は、2次元正規ベクトルの角度によるコーシー分布の幾何的表現に依拠しており、2π を法として一様に分布する角度の重み付き正接の和が、依然として Cauchy(0,1) に従うことを示している。
• Σ が特異的であっても、Σ^{(n)} = Σ + n^{-1}I で近似し、n → ∞ の極限をとることで、Z の分布が依然として Cauchy(0,1) に保たれることを示している。
• この結果は、「スーパー・コーシー現象」を Lévy 分布へ一般化する。すなわち、∑_{i,j} w_i w_j σ_{ij} / (X_i X_j) ∼ Lévy(0,1) であり、i.i.d. 逆カイ二乗分布の既知の性質を拡張する。
• 核心的な洞察は、角成分 Θ_1 が一様分布に従い、相対角 U_j と独立であることである。これにより、正接変換下での重み付き和の分布の不変性が保証される。