[論文レビュー] Laplace transform asymptotics and large deviation principles for longest success runs in Bernoulli trials

Takis Konstantopoulos, Zhenxia Liu+1 more|arXiv (Cornell University)|Jul 10, 2015

Stochastic processes and statistical mechanics参考文献 11被引用数 3

ひとこと要約

本稿は、i.i.d. ベルヌーイ試行における最長連続成功回数 $L(n)$ の正確なラプラス変換漸近挙動を確立し、二つの大偏差原理（LDP）を導出する：一つは名目値 $\log_{1/p}n$ の近くで、もう一つは遠方の偏差領域で。主な貢献は、$p$ が 1 に近い場合に $n$ が中程度のサイズであるとき、標準的手法を上回る性能を示す、$L(n)$ を用いた成功確率 $p$ の新しい信頼区間の構築である。

ABSTRACT

The longest stretch $L(n)$ of consecutive heads in $n$ i.i.d. coin tosses is seen from the prism of large deviations. We first establish precise asymptotics for the moment generating function of $L(n)$ and then show that there are precisely two large deviation principles, one concerning the behavior of the distribution of $L(n)$ near its nominal value $\log_{1/p} n$ and one away from it. We discuss applications to inference and to logarithmic asymptotics of functionals of $L(n)$.

研究の動機と目的

• i.i.d. ベルヌーイ試行における最長連続成功回数 $L(n)$ のモーメント生成関数の正確な漸近挙動を確立すること。
• $L(n)$ に対する二つの大偏差原理（LDP）を導出すること：一つはその典型的値 $\log_{1/p}n$ の近くで、もう一つは遠方の偏差領域で。
• LDP を統計的推論に応用し、特に成功確率 $p$ の信頼区間の構築に用いること。
• 観測された最長連続成功回数に基づく、$p$ の新しい信頼区間を構築し、$p$ が 1 に近い場合かつ $n$ が小さいから中程度のサイズのとき、性能を向上させること。

提案手法

• 分布の推定と再帰的構造を用いて、$\lambda < \ln(1/p)$、$\lambda = \ln(1/p)$、$\lambda > \ln(1/p)$ の三つの領域における $\ln \mathbb{E}[e^{\lambda L(n)}]$ の漸近挙動を導出する。
• Gärtner-Ellis 定理を用いて、モーメント生成関数の漸近挙動から完全な大偏差原理を導出する。
• LDP を特徴付けるため、$ x \geq 1 $ のとき $ \Lambda^*(x) = (x-1)\ln(1/p) $、それ以外のとき $ +\infty $ である良好なレート関数 $\Lambda^*(x)$ を定義する。
• 尾確率の対数的漸近挙動を確立する：$ x > 0 $ に対して $ \frac{1}{\log_{1/p}n} \ln \mathbb{P}(L(n)/\log_{1/p}n \geq 1+x) \to -x\ln(1/p) $ が成り立ち、これは対数スケールでの指数的減衰を示す。また、$ 0 < x < 1 $ に対して $ \frac{1}{\log_{1/p}n} \ln \left( -\ln \mathbb{P}(L(n)/\log_{1/p}n \leq 1-x) \right) \to x\ln(1/p) $ が成り立ち、異なる対数的減衰率を示す。
• 観測された最長連続成功回数 $L_{\text{obs}}(n)$ とバイアス補正済み点推定値 $\widehat{L}(n)$ を用いて、$100(1-\alpha)\%$ 信頼区間を構築する。
• シミュレーションを用いて、提案された信頼区間をウィルソンスコア区間やクロッパー・ピアソン区間と比較し、特に $p \approx 1$ の領域での有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 $n$ 個の i.i.d. ベルヌーイ試行における最長連続成功回数のモーメント生成関数 $\mathbb{E}[e^{\lambda L(n)}]$ の正確な漸近挙動は何か？
• RQ2 $L(n)$ に対して大偏差原理を厳密に確立できるか？ もしそうなら、二つの異なる領域が存在するか？
• RQ3 大偏差漸近挙動を用いて、成功確率 $p$ の改善された信頼区間をどのように構築できるか？
• RQ4 $p$ が 1 に近い場合に、最長連続成功回数に基づく提案された信頼区間は、ウィルソンやクロッパー・ピアソンの手法を上回る性能を示すか？

主な発見

• モーメント生成関数 $\mathbb{E}[e^{\lambda L(n)}]$ は、$\lambda < \ln(1/p)$ のとき $\ln \mathbb{E}[e^{\lambda L(n)}] \sim \lambda \log_{1/p}n$、$\lambda = \ln(1/p)$ のとき $\sim 2\lambda \log_{1/p}n$、$\lambda > \ln(1/p)$ のとき $\sim (\lambda - \ln(1/p))n$ を満たす。
• レート関数 $\Lambda^*(x) = (x-1)\ln(1/p)$（$x \geq 1$ のとき）、それ以外のとき $+\infty$）を用いた大偏差原理が成立し、典型的値 $\log_{1/p}n$ の周辺の逸脱を特徴付ける。
• $x > 0$ に対して、尾確率は $\frac{1}{\log_{1/p}n} \ln \mathbb{P}(L(n)/\log_{1/p}n \geq 1+x) \to -x\ln(1/p)$ を満たし、これは対数スケールでの指数的減衰を示している。
• $0 < x < 1$ に対して、下側尾確率は $\frac{1}{\log_{1/p}n} \ln \left( -\ln \mathbb{P}(L(n)/\log_{1/p}n \leq 1-x) \right) \to x\ln(1/p)$ を満たし、異なる対数的減衰率を示している。
• 成功確率 $p$ の新しい信頼区間を提案する：$I_p = \left( \exp\left\{ -\frac{\ln n - \ln(\alpha/2)}{\widehat{L}(n)} \right\}, \exp\left\{ -\frac{\ln n - \ln(-\ln(\alpha/2))}{\widehat{L}(n)} \right\} \right)$、ここで $\widehat{L}(n)$ は $L(n)$ のバイアス補正推定値である。
• シミュレーションにより、$p$ が 1 に近い場合かつ $n$ が小さいから中程度のサイズのとき、提案された区間がウィルソンおよびクロッパー・ピアソン区間を上回ること、特にカバレッジの正確性において優れていることが示された。