[論文レビュー] On a new limit theorem in probability theory (Translation of 'Sur un nouveau théorème-limite de la théorie des probabilités')

Harald Cramér, Hugo Touchette|arXiv (Cornell University)|Feb 16, 2018

Stochastic processes and statistical mechanics参考文献 1被引用数 7

ひとこと要約

1938年のこの画期的な論文においてハラルド・クラメールは、確率論における最初の厳密な大偏差原理を導入し、同分布独立確率変数の和の尾確率の漸近的指数的減衰率を導出している。エッシャー変換を用いて測度を傾けることでモーメント生成関数を解析し、クラメールは累積モーメント生成関数から導かれるレート関数を持つ大偏差原理を確立した。これは現代の統計学、統計物理学、情報理論における大偏差理論の基盤を築いた。

ABSTRACT

This is a translation of Harald Cramér's article, 'On a new limit theorem in probability theory', published in French in 1938 and deriving what is considered by mathematicians to be the first large deviation result. My hope is that this translation will help disseminate this historically important work, 80 years after its publication.

研究の動機と目的

• 同分布独立確率変数の和に対する稀な尾部事象を推定する際に中心極限定理の限界を克服すること。
• 確率分布における大偏差—$ n $ のオーダーの揺らぎ、$ \sqrt{n} $ のオーダーではない—の漸近的減衰率を推定するための方法を開発すること。
• $ n \to \infty $ の際に有効な、独立確率変数の和の尾部確率に対する厳密な漸近的展開を提供すること。
• 大偏差確率の正確な漸近的解析を可能にする変換（後にクラメール変換と呼ばれる）を導入すること。
• 特に、原点の近傍でモーメント生成関数の存在を要請するクラメール条件を含む、大偏差原理が成立するための条件を確立すること。

提案手法

• 論文は、大偏差確率の解析を可能にするために、確率測度を変更するためのエッシャー変換（または指数的チルト）を用いる。
• 生存関数 $ 1 - F(x,t) $ と、チルト分布および指数因子 $ R^t e^{-h \bar{m} t} $ を含む積分を結びつける恒等式を導出する。ここで $ R $ はインクリメント分布のモーメント生成関数である。
• この手法は、モーメント生成関数の解析接続と、ラプラス法を用いた積分の漸近的挙動の近似に依存している。
• クラメールは累積モーメント生成関数の概念を導入し、そのLegendre変換を用いて、尾部確率の指数的減衰を支配するレート関数を定義する。
• 離散的および連続的時間設定の両方で分析が行われており、離散的ケースでは $ n $ 個の同分布独立変数の和を扱い、連続的ケースでは時間パラメータ $ t $ を用いる。
• 主な技術的ステップは、クラメール条件（原点の近傍でモーメント生成関数が存在すること）が満たされている場合、尾部確率が $ \exp(-n I(x)) $ のように指数的に減衰することの証明であり、ここで $ I(x) $ はレート関数である。

実験結果

リサーチクエスチョン

• RQ1 同分布独立確率変数の和がその平均から $ n $ のオーダーで逸脱する確率を、厳密に推定するにはどうすればよいか？（$ \sqrt{n} $ のオーダーではない。）
• RQ2 個々の確率変数の分布にどのような条件を課すと、尾部確率が $ n $ に対して指数的に減衰するのか？
• RQ3 大偏差を通常の事象にするように測度を再重み付けする変換を構成可能か？
• RQ4 大偏差領域における尾部確率の漸近的展開の正確な形は何か？
• RQ5 尾部確率の減衰率は、元の分布の累積モーメント生成関数とどのように関係するか？

主な発見

• 論文は、最初の大偏差原理を確立した：尾部確率 $ \mathbb{P}(S_n > nx) $ は $ \exp(-n I(x)) $ のように指数的に減衰し、ここで $ I(x) $ は累積モーメント生成関数のLegendre変換によって定義されるレート関数である。
• レート関数 $ I(x) $ は累積モーメント生成関数 $ \Lambda(h) = \log \mathbb{E}[e^{hX}] $ のLegendre変換として与えられ、$ x $ が和の平均の可能な範囲内にある場合にのみ有限である。
• クラメール条件（原点の近傍でモーメント生成関数が存在すること）が満たされている場合、生存関数の漸近的展開は、$ R^n e^{-h \bar{m} n} $ の指数的項によって支配され、ここで $ R $ はモーメント生成関数、$ h $ は $ \mathbb{E}[X e^{hX}] = \bar{m} $ を満たすように選ばれる。
• 論文は、大偏差確率が漸近的に $ R^n e^{-h \bar{m} n} \int_0^\infty e^{-h \bar{\sigma} \sqrt{n} y} d\bar{F}(y,n) $ に等価であることを示し、これは離散ケースと類似しており、指数的減衰を確認している。
• レート関数 $ I(x) $ は強い凸性を持ち、平均で最小値 $ I(\mu) = 0 $ を取り、$ x $ が平均から離れるにつれて急激に増加する。
• この手法は、同分布独立確率変数の和における稀な事象の減衰率を体系的に計算する方法を提供し、保険数理、キューイング理論、統計物理学への応用がある。