[論文レビュー] Finite-length Analysis on Tail probability and Simple Hypothesis Testing for Markov Chain

Shun Watanabe, Masahito Hayashi|arXiv (Cornell University)|Jan 1, 2014

Rough Sets and Fuzzy Logic被引用数 6

ひとこと要約

この論文は、情報幾何を用いて、有限長のマルコフ連鎖の尾確率および積率母関数のタイトな上界と下界を導出する。単純な仮説検定における第一種誤り確率の制約のもとでの最小第二種誤り確率に関するホーフィング型の境界を確立し、マルコフ連鎖の中心極限定理の新たな証明を提供する。

ABSTRACT

Using terminologies of information geometry, we derive upper and lower bounds of the tail probability of the sample mean. Employing these bounds, we obtain upper and lower bounds of the minimum error probability of the 2nd kind of error under the exponential constraint for the error probability of the 1st kind of error in a simple hypothesis testing for a finite-length Markov chain, which yields the Hoeffding type bound. For these derivations, we derive upper and lower bounds of cumulant generating function for Markov chain. As a byproduct, we obtain another simple proof of central limit theorem for Markov chain.

研究の動機と目的

• 有限長のマルコフ連鎖の標本平均の尾確率に関するタイトな上界と下界を導出すること。
• 単純な仮説検定における第一種誤り確率に指数的制約を課したもとでの最小第二種誤り確率に関する境界を確立すること。
• 尾確率解析の基礎的段階として、マルコフ連鎖の積率母関数に関する境界を構築すること。
• 導出された境界を用いて、マルコフ連鎖の中心極限定理の新たな、簡略化された証明を提供すること。

提案手法

• マルコフ連鎖の分布の統計多様体を情報幾何を用いて特徴付ける。
• 指数型分布族の幾何的性質を用いて、積率母関数の上界と下界を導出する。
• これらの境界をマルコフ連鎖の標本平均に適用し、尾確率を制御する。
• 尾確率の境界を二項仮説検定における誤り確率の制約に翻訳する。
• 指数的傾き変換と幾何的モーメント境界を用いて、マルコフ連鎖のホーフィング型不等式を精緻化する。
• 導出された積率母関数の境界を活用して、中心極限定理の証明を再構築する。

実験結果

リサーチクエスチョン

• RQ1 有限長のマルコフ連鎖の標本平均の尾確率に関する、最もタイトな上界と下界は何か？
• RQ2 マルコフ連鎖の積率母関数をどのように境界化すれば、有限長の偏差解析が可能になるか？
• RQ3 単純な仮説検定における第一種誤り確率に指数的制約を課したもとでの、最小第二種誤り確率の達成可能な境界は何か？
• RQ4 導出された境界は、マルコフ連鎖のホーフィング型不等式を導けるか？
• RQ5 これらの境界に基づいて、マルコフ連鎖の中心極限定理の新たな、簡略化された証明は可能か？

主な発見

• 情報幾何を用いて、有限長のマルコフ連鎖に適用可能な、標本平均の尾確率に関するタイトな上界と下界が導出された。
• マルコフ連鎖の積率母関数が上界と下界で抑えられ、正確な偏差解析が可能になった。
• 第一種誤り確率に指数的制約を課したもとでの、最小第二種誤り確率に関するホーフィング型の境界が確立された。
• マルコフ連鎖のデータに適用した場合、古典的なi.i.d.結果よりも誤り確率の境界がタイトで、より正確であることが示された。
• 積率母関数の境界を活用することで、マルコフ連鎖の中心極限定理の新たな、簡潔な証明が得られた。
• 結果は、従属する確率過程の極限挙動と大偏差解析を精緻化するための情報幾何の有効性を示している。