[論文レビュー] Moments of Sums of Independent and Identically Distributed Random Variables

Daniel M. Packwood|arXiv (Cornell University)|May 31, 2011

Stochastic processes and statistical mechanics参考文献 7被引用数 3

ひとこと要約

本稿では、独立同一分布（i.i.d.）の確率変数の和のモーメントを計算するための体系的で解析的な手法を提示する。組合せ論的公式を用いて、$ S_n = \sum_{i=1}^n X_i $ の $ p $ 階モーメントの明示的表現を導出し、中心極限定理および一般化された大数の法則の新たな証明を可能にする。特に、有限モーメントの条件下で $ S_n/n \Rightarrow H_\mu $、すなわち $ \mu $ における単位ステップ分布に収束することを示す。

ABSTRACT

We present an analytic method for computing the moments of a sum of independent and identically distributed random variables. The limiting behavior of these sums is very important to statistical theory, and the moment expressions that we derive allow for it to be studied relatively easily. We show this by presenting a new proof of the central limit theorem and several other convergence results.

研究の動機と目的

• i.i.d. 確率変数の和のモーメントを計算する体系的で明示的な方法を開発すること。これは、従来の閉形式の等式が存在しないためである。
• モーメントの公式を応用し、$ S_n/n $ の分布収束が単位ステップ分布に至ることを含む、新たな漸近的結果を導出すること。
• 有限モーメントを有するi.i.d.系列に対して、弱法則および強法則の大数の法則を一般化すること。特に、対称的および非対称的分布に対して有効である。
• 正規化された和の極限的挙動、特に $ S_n/n $ が $ \mu $ における点質量に集中することを厳密に解析的基盤をもって裏付けること。
• モーメントに基づく解析が、中心極限定理などの古典的極限定理の証明にどのように有用であるかを、明示的なモーメント展開を通じて示すこと。

提案手法

• この手法は、$ p $ 階モーメント $ E(S_n^p) $ を $ p $ のすべての整数分割の和として表現する組合せ論的数え上げを用いる。各項は、$ X $ のモーメントの積に対応する。
• モーメント展開の各項は、繰り返しの累乗を持つ変数にインデックスを割り当てる方法の数から得られる多項係数で重み付けされる。
• 式 (2) の係数 $ a_i $ は、与えられた累乗分割に対応するインデックスの異なる順列の数を表し、重複度の階乗および $ n $ の下降階乗を組み合わせる。
• この公式は、$ E(S_n^p) $ をすべてのインデックスの組み合わせの和として展開し、独立性と同一分布性を活用して、モーメント構造ごとに項をグループ化することで導出される。
• この手法は、合計が $ p $ に等しいすべての累乗 $ p_1, \dots, p_m $ の組み合わせを体系的に取り扱い、$ h $ 個の異なる値とその重複度 $ l_1, \dots, l_h $ を含む。
• このアプローチにより、すべてのモーメントが有限であるための必要十分条件は、$ E(X^\alpha) < \infty $ がすべての $ \alpha \leq p $ に対して成り立つことである。これにより、式の収束が保証される。

実験結果

リサーチクエスチョン

• RQ1 i.i.d. 確率変数の和のモーメントを計算する一般的で体系的な手法を、既存の不等式を超えて開発できるか？
• RQ2 モーメントに基づくアプローチにより、中心極限定理のような古典的極限定理の新たな直接的証明が可能か？
• RQ3 元の分布が非対称な場合、$ S_n/n $ の極限分布は何か？ そして、それを明確に特徴づけられるか？
• RQ4 弱法則および強法則の大数の法則は、高階モーメントに一般化可能か？ そして、どのような条件下で成り立つか？
• RQ5 $ E(S_n^p/n^p) $ の漸近的挙動は、対称的および非対称的分布でどのように異なるか？

主な発見

• $ S_n $ の $ p $ 階モーメントは、$ p $ のすべての整数分割の有限和として与えられ、多項係数および階乗の組合せ論的係数から得られる。これは式 (1) および (2) で形式化されている。
• 3 階モーメントに対しては、公式により $ E(S_n^3) = nE(X^3) + 3n(n-1)E(X^2)E(X) + n(n-1)(n-2)E(X)^3 $ が得られ、組合せ構造が確認される。
• $ n \to \infty $ のとき、すべての $ X $ の $ p $ 階までのモーメントが有限であれば、$ E(S_n^p / n^p) \to \mu^p $ が成り立つ。
• 正規化された和 $ S_n/n $ は、分布収束の意味で単位ステップ分布 $ H_\mu $ に収束する。ここで、$ P(H_\mu < h) = 0 $（$ h < \mu $ のとき）、それ以外は 1 である。
• 一般化された弱法則の大数の法則が成り立つ：すべての $ \epsilon > 0 $ に対して、$ \lim_{n \to \infty} P(|S_n^p / n^p - \mu^p| > \epsilon) = 0 $ が成り立つ。有限モーメントの条件下で成立する。
• 対称的分布で $ \mu = 0 $ の場合、強法則の一般化が成り立つ：$ S_n^p / n^p \to 0 $ ほとんど確実に収束する。これはボレル＝カンテリの補題とモーメントの減衰を用いて示される。