[論文レビュー] Some Refinements of Large Deviation Tail Probabilities

László Györfi, Peter Harremoës+1 more|arXiv (Cornell University)|May 4, 2012

Financial Risk and Volatility Modeling参考文献 9被引用数 4

ひとこと要約

本稿は、i.i.d. 確率変数の大偏差尾確率を、古典的な Bahadur-Rao 評価を改善するガウス近似を導入することで精緻化する。尾確率 $ \mathbf{P}\left\{\frac{1}{n}\sum_{i=1}^{n}X_{i} \geq \mu\right\} $ に対して、ずらしガウス尾の形で正確な漸近的表現を導出し、発散 $ D(\mu\|p) $、分散、累積生成関数に依存する補正項 $ c_\mu $ を含む。これにより、二項分布および一般の指数型分布族において $ O(1/n) $ の誤差が達成される。

ABSTRACT

We study tail probabilities via some Gaussian approximations. Our results make refinements to large deviation theory. The proof builds on classical results by Bahadur and Rao. Binomial distributions and their tail probabilities are discussed in more detail.

研究の動機と目的

• 古典的な Bahadur-Rao 近似を超えた大偏差尾確率推定の精緻化を図ること。
• 標準正規近似が失敗する大偏差領域において、ガウス尾近似を拡張すること。
• 特に二項分布に対して、i.i.d. 和の尾確率の正確な漸近的表現を導出すること。
• Bahadur-Rao 近似を $ O(1/n) $ の誤差にまで高める補正項 $ c_\mu $ を提供すること。
• 非格子型および格子型確率変数（ベルヌーイ試行を含む）に対して漸近的結果を確立すること。

提案手法

• モーメント生成関数 $ \mathcal{Z}(\beta) $ を用いて定義される指数型分布族フレームワークを用いる。
• 平均 $ \mu $ と累積生成関数パラメータの関係を表すために、$ \frac{\mathcal{Z}'(\beta)}{\mathcal{Z}(\beta)} = \mu $ の解 $ \hat{\beta}(\mu) $ を定義する。
• 二項分布の場合に情報発散 $ D(\mu\|p) = \mu\ln\frac{\mu}{p} + (1-\mu)\ln\frac{1-\mu}{1-p} $ を用いる。
• 補正項 $ c_\mu $ を $ \frac{\ln\left( \frac{(2D(\mu))^{1/2}}{V(\mu)^{1/2} \cdot \text{effective} \, \beta} \right)}{\hat{\beta}(\mu)} $ として導入し、ガウス尾の引数を補正する。
• 主な近似式を導出：$ \mathbf{P}\left\{\frac{1}{n}\sum X_i \geq \mu\right\} = \Phi\left( -n^{1/2} \sqrt{2D(\mu - \frac{c_\mu}{n})} \right) (1 + O(1/n)) $。
• 格子分布に対しては、$ \hat{\beta}(\mu) $ を $ \frac{1 - e^{-d\hat{\beta}(\mu)}}{d} $ に置き換えることで、漸近的精度を保つ。

実験結果

リサーチクエスチョン

• RQ1 ガウス近似を、標準正規近似が失敗する大偏差領域にまで拡張し、精度を向上させることは可能か？
• RQ2 平均から大きく離れた $ \mu $ に対して、尾確率 $ \mathbf{P}\left\{\frac{1}{n}\sum X_i \geq \mu\right\} $ の正確な漸近的形は何か？
• RQ3 補正項 $ c_\mu $ はどのように導出可能か？ これにより Bahadur-Rao 近似が $ O(1/n) $ の誤差にまで高められるか？
• RQ4 特にベルヌーイ試行を含む格子型確率変数に対して、近似はどのように振る舞うか？
• RQ5 数値的証拠が示唆するように、漸近的結果を鋭い不等式にまで強化することは可能か？

主な発見

• 尾確率 $ \mathbf{P}\left\{\frac{1}{n}\sum X_i \geq \mu\right\} $ は、漸近的に $ \Phi\left( -n^{1/2} \sqrt{2D(\mu - \frac{c_\mu}{n})} \right) (1 + O(1/n)) $ で近似可能であり、ここで $ D(\mu\|p) $ はカルバック・ライブラー発散である。
• 二項分布の場合、補正項は $ c_\mu = \frac{1}{2} + \frac{\ln\left( \frac{2D(\mu\|p)}{(\mu-p)^2 p(1-p)} \right)}{2\ln\left( \frac{\mu(1-p)}{p(1-\mu)} \right)} $ である。$ p=0.5 $ の場合、$ c_\mu \in (0.5, 0.534) $ となる。
• 数値的結果では、$ p=0.5 $ の場合に $ c_\mu \approx 0.5 + (\mu - 0.5)/12 $ となり、ほぼ線形補正であることが示される。
• 非格子型および格子型確率変数の両方に対して近似が成立し、格子型の場合は修正された有効な $ \beta $-パラメータが用いられる。
• Bahadur-Rao 結果を改善するため、ガウス尾の引数に精密なシフトを組み込み、誤差を $ O(1/\sqrt{n}) $ から $ O(1/n) $ に低減している。
• 数値実験により、小さな $ n $ に対しても近似の正確性が確認され、実用的有用性が裏付けられている。