[論文レビュー] Finite-length Analysis on Tail probability for Markov Chain and Application to Simple Hypothesis Testing

Shun Watanabe, Masahito Hayashi|arXiv (Cornell University)|Jan 16, 2014

Markov Chains and Monte Carlo Methods参考文献 22被引用数 9

ひとこと要約

本稿では、情報幾何を用いて、有限長のマルコフ連鎖における標本平均の尾確率の有限長バウンドを導出し、積率母関数（CGF）のタイトな上界・下界を導出する。これらのバウンドにより、指数的制約下での単純仮説検定における第二の誤り確率について、O(1)で計算可能な漸近的にタイトな推定が得られ、Hoeffding型のバウンドを回復するとともに、マルコフ連鎖における中心極限定理の新たな証明が可能となる。

ABSTRACT

Using terminologies of information geometry, we derive upper and lower bounds of the tail probability of the sample mean. Employing these bounds, we obtain upper and lower bounds of the minimum error probability of the 2nd kind of error under the exponential constraint for the error probability of the 1st kind of error in a simple hypothesis testing for a finite-length Markov chain, which yields the Hoeffding type bound. For these derivations, we derive upper and lower bounds of cumulant generating function for Markov chain. As a byproduct, we obtain another simple proof of central limit theorem for Markov chain.

研究の動機と目的

• 有限長マルコフ連鎖における標本平均の尾確率の有限長上界・下界を導出すること。
• 第一の誤り確率に指数的制約を課した単純仮説検定における第二の誤り確率のO(1)で計算可能なバウンドを構築すること。
• 中心極限定理、中間偏差、大偏差の各領域において漸近的にタイトであることの保証。
• Berry-Essen定理をマルコフ連鎖へ一般化し、積率母関数のバウンドを用いてマルコフ連鎖における中心極限定理の新たな証明を与えること。
• 相対エントロピー、相対Rényiエントロピー、指数型分布族といった情報幾何的ツールを、マルコフ過程の解析に応用すること。

提案手法

• 遷移行列と定常分布を用いて、マルコフ連鎖の積率母関数（CGF）のバウンドを情報幾何を用いて導出する。
• 指数型分布族の自然パラメータおよび期待値パラメータの形式を用いて、CGFおよびそのバウンドを表現する。
• Legendre変換を用いてCGFと尾確率バウンドを関連させ、中心極限定理、中間偏差、大偏差の各領域において漸近的に整合性を保証する。
• マルコフ連鎖の行列表現（特に基本行列Zと行列A）を用いて、CGF展開における分散項を計算する。
• 有限和および(W - A)^d行列を含む極限を用いた近似により、CGFをO(1)で計算可能なバウンドに導出し、計算複雑度を低く保つ。
• 定数誤り確率制約下で有効なバウンドを得るために、Strassenの漸近的結果を拡張する形で、Berry-Essen定理をマルコフ連鎖へ一般化する。

実験結果

リサーチクエスチョン

• RQ1 中心極限定理、中間偏差、大偏差の各領域において、漸近的にタイトであるO(1)で計算可能な有限長バウンドを、マルコフ連鎖における標本平均の尾確率に対して導出可能か？
• RQ2 相対エントロピーおよび相対Rényiエントロピーといった情報幾何的ツールを用いて、有限長におけるマルコフ連鎖の積率母関数（CGF）をどのようにバウンドできるか？
• RQ3 単純仮説検定におけるマルコフ連鎖のHoeffdingバウンドを、上界および下界ともにO(1)で計算可能な有限長バウンドとして導出可能か？
• RQ4 有限長の積率母関数（CGF）バウンドを用いて、マルコフ連鎖における中心極限定理の新たな、簡略化された証明が可能か？
• RQ5 第一の誤り確率に異なる制約（定数、中間偏差、大偏差）を課した場合、仮説検定における第二の誤り確率のバウンドはどのように振る舞うか？

主な発見

• 本稿では、n → ∞ の極限で漸近的CGFに収束するマルコフ連鎖の積率母関数（CGF）の上界・下界を導出しており、漸近的にタイトであることを保証する。
• これらのCGFバウンドにより、尾確率のO(1)で計算可能な上界・下界が得られ、極限において中心極限定理、中間偏差、大偏差の挙動を回復する。
• 単純仮説検定において、第一の誤り確率に指数的制約を課した下で、第二の誤り確率のO(1)で計算可能な上界・下界を提供しており、大偏差領域ではHoeffdingバウンドを回復する。
• 単純な標本平均に限らず、一般の二変数関数g(X_{k+1}, X_k)に対しても有効であり、隠れマルコフモデルへの応用可能性が拡張される。
• CGFバウンドの極限を取ることで、マルコフ連鎖における中心極限定理の新たな証明が得られ、正規化された標本平均がガウス分布に収束することを確認する。
• 定数誤り確率制約下で有効なバウンドを得るために、Berry-Essen定理をマルコフ連鎖へ一般化し、Strassenの漸近的結果を回復するO(1)で計算可能なバウンドを導出する。