[論文レビュー] Multivariate Normal Approximation by Stein's Method: The Concentration Inequality Approach

Louis H. Y. Chen, Xiao Fang|arXiv (Cornell University)|Nov 17, 2011

Random Matrices and Applications参考文献 21被引用数 27

ひとこと要約

この論文は、スティンの方法の集中不等式アプローチを多変量正規近似へと拡張し、独立な $k$-次元確率ベクトルの和に対して、次元に依存する誤差項 $k^{1/2}\gamma$ を得る。ここで $ olimits\gamma = \sum_{i=1}^n \mathbb{E}|X_i|^3$ である。さらに、局所的に依存するベクトルに対しても境界を確立し、それぞれ4次モーメントと3次モーメントの仮定の下で $O_k(1/\sqrt{n})$ および $O_k(\log n / \sqrt{n})$ の誤差率を達成する。

ABSTRACT

The concentration inequality approach for normal approximation by Stein's method is generalized to the multivariate setting. We use this approach to prove a non-smooth function distance for multivariate normal approximation for standardized sums of $k$-dimensional independent random vectors $W=\sum_{i=1}^n X_i$ with an error bound of order $k^{1/2}γ$ where $γ=\sum_{i=1}^n E|X_i|^3$. For sums of locally dependent (unbounded) random vectors, we obtain a fourth moment bound which is typically of order $O_k(1/\sqrt{n})$, as well as a third moment bound which is typically of order $O_k(\log n/\sqrt{n})$.

研究の動機と目的

• 非滑らかな関数距離（例：凸集合の指標関数）に対して、スティンの方法の集中不等式アプローチを多変量設定に一般化すること。
• 独立な $k$-次元確率ベクトルの標準化された和の多変量正規近似に対して明示的な誤差境界を導出すること。
• 依存構造が局所的である確率ベクトルにこの枠組みを拡張し、有限の3次および4次モーメントの条件下で境界を提供すること。
• 特に非滑らかな関数距離（例：凸集合の指標関数）に対して、既存の文献における次元に依存する誤差率を改善すること。

提案手法

• 距離関数の幾何学的性質を用いて、和 $W = \sum_{i=1}^n X_i$ が凸集合 $A$ の $\epsilon$-近傍にある確率に関する多変量集中不等式を構築する。
• 距離関数 $f_i(x)$ の方向微分に基づく解析を導入し、$W$ が $A^\epsilon$ の境界付近で示す挙動を制御する。
• 集中不等式を応用して、標準正規変数 $Z$ に対して $\mathbb{P}(W \in A)$ と $\mathbb{P}(Z \in A)$ の差を評価し、$k^{1/2}\gamma$ を用いた誤差境界を導出する。
• 作用素ノルムとユークリッドノルムを用いて依存構造を分析し、局所的依存の下での境界を導出する。
• 射影と超平面を用いた幾何的議論により、距離関数の異なる方向における変動を制御する。
• 依存グラフの構造とモーメント条件を活用して、局所的に依存する確率ベクトルの和にこの枠組みを適用する。

実験結果

リサーチクエスチョン

• RQ1 スティンの方法の集中不等式アプローチを、非滑らかな関数距離（例：凸集合の指標関数）に対して多変量設定に一般化できるか？
• RQ2 このアプローチを用いた独立な $k$-次元確率ベクトルの和の多変量正規近似において、最適な次元に依存する誤差境界は何か？
• RQ3 この方法を局所的に依存する確率ベクトルに拡張するにはどうすればよく、有限モーメント条件の下でどのような誤差境界が得られるか？
• RQ4 次元に依存する $k^{1/2}$ 要因は、既存の文献における結果と比較してどのように評価できるか？

主な発見

• 平均がゼロで共分散行列が単位行列である独立な $k$-次元確率ベクトルの和に対して、多変量正規近似の誤差境界は $O(k^{1/2}\gamma)$ である。ここで $\gamma = \sum_{i=1}^n \mathbb{E}|X_i|^3$ である。
• 凸集合 $A \subset \mathbb{R}^k$ に対して、$\mathbb{P}(W \in A^{4\gamma + \epsilon} \setminus A^{4\gamma}) \leq 4.1k^{1/2}\epsilon + 39k^{1/2}\gamma$ が成り立ち、これが重要な集中不等式を確立する。
• 局所的に依存する確率ベクトルに対しては、4次モーメントの下で $O_k(1/\sqrt{n})$、3次モーメントの下で $O_k(\log n / \sqrt{n})$ の誤差境界が得られる。
• $k^{1/2}$ の次元依存性は、従来の $k^{5/2}$、$k^{3/2}$、$k$ の依存性よりも改善されており、$k^{1/4}$ よりも劣るが、Bentkus (2005) の結果と比較して優れている。
• このアプローチはグラフ依存構造を持つ問題や i.i.d. 列の部分積の同時分布に対しても適用可能であり、広範な適用可能性を示している。
• 従来の研究で用いられた帰納的技法を避けており、帰納法が不適切な依存構造の問題に対して新たな道筋を提供する。