[논문 리뷰] An unexpected encounter with Cauchy and Lévy

Natesh S. Pillai, Xiao-Li Meng|arXiv (Cornell University)|2015. 05. 08.

Statistical Distribution Estimation and Applications참고 문헌 10인용 수 7

한 줄 요약

이 논문은 독립적이고 동일분포가 아닌 정규 랜덤 변수들의 비율들의 가중합이, 가중치가 변수들과 독립이고 합이 1이 되는 조건 하에, 차원 m ≥ 2일 때조차도 임의의 공분산 행렬을 가질 수 있으며, 상관관계가 있을 경우에도 표준 코시(0,1) 분포를 따른다는 것을 증명한다. 증명은 코시 분포의 각도 좌표를 통한 기하적 특성화와 연속 함수 정리(continuous mapping theorem)를 활용하여 Drton와 Xiao(2016)의 추측을 일반 공분산 구조로 확장한다.

ABSTRACT

The Cauchy distribution is usually presented as a mathematical curiosity, an exception to the Law of Large Numbers, or even as an "Evil" distribution in some introductory courses. It therefore surprised us when Drton and Xiao (2016) proved the following result for $m=2$ and conjectured it for $m\ge 3$. Let $X= (X_1,..., X_m)$ and $Y = (Y_1, ...,Y_m)$ be i.i.d $N(0,Σ)$, where $Σ=\{σ_{ij}\}\ge 0$ is an $m imes m$ and extit{arbitrary} covariance matrix with $σ_{jj}>0$ for all $1\leq j\leq m$. Then $$Z = \sum_{j=1}^m w_j \frac{X_j}{Y_j} \ \sim \mathrm{Cauchy}(0,1),$$ as long as $w=(w_1,..., w_m) $ is independent of $(X, Y)$, $w_j\ge 0, j=1,..., m$, and $\sum_{j=1}^m w_j=1$. In this note, we present an elementary proof of this conjecture for any $m \geq 2$ by linking $Z$ to a geometric characterization of Cauchy(0,1) given in Willams (1969). This general result is essential to the large sample behavior of Wald tests in many applications such as factor models and contingency tables. It also leads to other unexpected results such as $$ \sum_{i=1}^m\sum_{j=1}^m \frac{w_iw_jσ_{ij}}{X_iX_j} \sim { ext{Lévy}}(0, 1). $$ This generalizes the "super Cauchy phenomenon" that the average of $m$ i.i.d. standard Lévy variables (i.e., inverse chi-squared variables with one degree of freedom) has the same distribution as that of a single standard Lévy variable multiplied by $m$ (which is obtained by taking $w_j=1/m$ and $Σ$ to be the identity matrix).

연구 동기 및 목표

• Drton와 Xiao(2016)의 추측을 해결하기 위해, i.i.d. 정규 변수의 비율들의 가중합이 임의의 정부정공분산 행렬을 가질 때조차도 표준 코시(0,1) 분포를 유지하는가를 밝히는 것.
• 고정된 가중치에서 데이터와 독립적인 랜덤 가중치로 결과를 확장하여 적용 범위를 넓히는 것.
• 이중정규 변수의 각도 표현을 기반으로 한 기하학적이고 직관적인 증명을 제공하여 복잡한 해석함수 이론을 피하는 것.
• 다변량 정규 비율에서의 종속성 구조 하에서도 코시 분포의 강건성을 확립하는 것.
• 요인 모델 및 분할표에서 Wald 검정 통계량의 점근적 분포에 대한 본 결과의 함의를 보여주는 것.

제안 방법

• 이변량 정규 변수 (X_j, Y_j)의 결합분포를 극좌표 (R_j, Θ_j)로 변환하며, 변수들이 i.i.d. N(0, σ²)일 경우 각도 Θ_j가 (−π, π]에서 균일분포를 이룬다는 사실을 활용한다.
• 비율 X_j / Y_j를 tan(Θ_j)로 표현하고, 가중합 Z = ∑ w_j X_j / Y_j를 ∑ w_j tan(Θ_1 + U_j)로 재기본화한다. 여기서 U_j = Θ_j − Θ_1이다.
• 각도 간격 U_j가 기준 각도 Θ_1와 독립이며, Θ_1 ∼ Unif(−π, π]임을 이용하여, U에 조건부로 Z가 Cauchy(0,1)임을 보인다.
• 탄젠트 함수의 2π 모듈로 불변성을 활용하여, 각도 좌표와 U_j 변수 사이에 거의 어디서나 자코비안 행렬식이 1인 일대일 변환을 정의한다.
• 연속 함수 정리를 적용하여, Σ를 Σ^{(n)} = Σ + n^{-1}I로 근사하고 n → ∞로 한계를 취함으로써, 정부정공분산 행렬에서의 결과를 비음성공분산 행렬으로 확장한다.
• 모든 j에 대해 σ_{jj} > 0임을 가정할 경우 비율 사상의 불연속성 집합의 확률이 0임을 이용하여, Z^{(n)}이 Z로 약한 수렴함을 보장한다.

실험 결과

연구 질문

• RQ1 m ≥ 2 및 σ_{jj} > 0 조건 하에, (X_j, Y_j)가 i.i.d. N(0, Σ)이고, 가중치 w_j가 음이 아닌 값이며 합이 1이 되며 (X,Y)와 독립일 경우, 비율 X_j / Y_j의 가중합이 표준 코시(0,1) 분포를 따르는가?
• RQ2 결과를 고정된 가중치에서 데이터와 독립적인 랜덤 가중치로 확장할 수 있는가?
• RQ3 상관관계가 있는 성분이 있을 경우에도 코시 분포의 불변성이 기반하는 기하학적 또는 확률적 구조는 무엇인가?
• RQ4 공분산 행렬이 특이행렬이거나 오직 음성정공분산일 경우 합의 분포는 어떻게 행동하는가?
• RQ5 본 결과는 요인 분석 및 분할표와 같은 모델에서 Wald 검정 통계량의 점근적 분포에 어떤 함의를 갖는가?

주요 결과

• 모든 m ≥ 2에 대해, 가중치 w_j가 음이 아니며 합이 1이 되고, i.i.d. N(0, Σ) 벡터 X와 Y와 독립일 경우, Z = ∑_{j=1}^m w_j X_j / Y_j ∼ Cauchy(0,1)임이 성립한다.
• X와 Y의 성분들이 상관관계가 있을 경우(즉, Σ가 대각행렬이 아닐 경우)에도 결과가 성립하며, 이는 개별 비율 X_j / Y_j가 종속적이지만도 여전히 성립한다는 점에서 놀랍다.
• 증명은 이중정규 벡터의 각도 표현을 통한 코시 분포의 기하학적 특성화에 기반하며, 2π 모듈로에서 균일분포를 이룬 각도의 가중합 탄젠트가 여전히 Cauchy(0,1)임을 보여준다.
• Σ가 특이행렬일 경우에도, Σ^{(n)} = Σ + n^{-1}I로 근사하고 n → ∞로 한계를 취함으로써 Z의 분포가 여전히 Cauchy(0,1)로 유지됨을 보였다.
• 본 결과는 '초코시 현상(super Cauchy phenomenon)'을 Lévy 분포로 일반화한다: ∑_{i,j} w_i w_j σ_{ij} / (X_i X_j) ∼ Lévy(0,1), 이는 i.i.d. 역카이제곱분포 변수의 기존 성질을 확장한다.
• 핵심 통찰은 각도 성분 Θ_1가 균일분포를 따르며, 상대 각도 U_j와 독립임을 보여주며, 이는 탄젠트 변환 하에서 가중합의 분포 불변성을 보장한다.