[論文レビュー] Two new Markov order estimators

Yuval Peres, Paul C. Shields|ArXiv.org|Jun 4, 2005

Algorithms and Data Compression参考文献 18被引用数 18

ひとこと要約

本稿では、経験エントロピーと条件付き確率の変動を用いて、有限アルファベットの確率過程のマルコフ次数に対する2つの新たな一貫推定量を提案する。エントロピー推定量は、経験エントロピーが安定する時点を再帰時間によって検出する。最大変動法は、条件付き確率の差の質的低下を検出することで次数を特定する。両手法とも、標本サイズが増加するにつれてほとんど確実に一貫することが証明されている。

ABSTRACT

We present two new methods for estimating the order (memory depth) of a finite alphabet Markov chain from observation of a sample path. One method is based on entropy estimation via recurrence times of patterns, and the other relies on a comparison of empirical conditional probabilities. The key to both methods is a qualitative change that occurs when a parameter (a candidate for the order) passes the true order. We also present extensions to order estimation for Markov random fields.

研究の動機と目的

• 単一の標本路から確率過程の記憶深さ（マルコフ次数）の一致推定量を開発すること。
• 真の次数の上限が事前に分かっていない状況、特に最大次数に上限がない状況における次数推定の課題に対処すること。
• 経験エントロピーと条件付き確率の漸近的収束性を活用し、真の次数で行動に質的変化が現れることを検出する手法を提案すること。
• 提案手法をマルコフ確率場に拡張し、i.i.d. やマルコフ連鎖モデルを超えた応用可能性を広げること。

提案手法

• エントロピー推定量法は、経験kステップ条件付きエントロピー $\widehat{h}_k(n)$ を再帰ベースのエントロピー推定量 $[\ell(n)]^{-1} \log n + 2(\log n)^{-1/4}$ と比較する。ここで $\ell(n)$ は繰り返される初期ブロックの最長長さである。
• 推定量 $M_n^*$ は、$\widehat{h}_k(n)$ が閾値以下に下がる最小の $k$ として定義される。これは $\widehat{h}_k(n)$ が真の次数 $M$ で安定することを利用している。
• 最大変動法は、長さ $m$ のスライディングウインドウ内で経験条件付き確率の最大偏差をブロック頻度でスケーリングしたテスト関数 $\phi_m(x_{1}^{n})$ を用いる。
• 推定量 $M_n^\#$ は、$\phi_m(x_{1}^{n}) < n^{3/4}$ を満たす最小の $m$ として定義され、$f(n) = \log \log n$ がテスト対象の $m$ 値の範囲を制御する。
• 両手法とも、真の次数で行動に質的変化が現れる：エントロピーが安定し、変動が急激に低下する。
• 理論的一貫性は、エルゴディック定理、大偏差、および経験エントロピー収束の繰り返し対数法則による境界を用いて確立される。

実験結果

リサーチクエスチョン

• RQ1 真の次数に事前の上限を仮定せずに、一貫マルコフ次数推定量を構築できるか？
• RQ2 経験エントロピーと条件付き確率の変動をどのように用いて、マルコフ過程の真の記憶深さを検出できるか？
• RQ3 候補次数 $k$ が真の次数 $M$ より小さい、等しい、または大きい場合に、経験エントロピーと条件付き確率の差の挙動はどのように変化するか？
• RQ4 提案手法をマルコフ確率場に拡張できるか。その場合、どのような理論的保証が得られるか？
• RQ5 BIC や MDL といった既存手法と比較して、提案手法の一致性および収束挙動はどのように異なるか？

主な発見

• エントロピー推定量 $M_n^*$ はほとんど確実に一貫する：任意の次数 $M$ のマルコフ過程に対して $\lim_{n \to \infty} M_n^*(x_1^n) = M$ が成り立つ。
• 最大変動推定量 $M_n^\#$ に対してもほとんど確実に一貫する。主な洞察は、$m < M$ のとき $\phi_m(x_{1}^{n})$ は $n$ に比例して増加するが、$m = M$ のときには多項式的でないままであることである。
• $k < M$ のとき $\widehat{h}_k(n)$ は $H_k > H$ にほとんど確実に収束するが、$\widehat{h}_M(n)$ は $H$ に収束する。これにより、しきい値によるアプローチが正当化される。
• $\phi_m(x_{1}^{n})$ を用いる手法は、$k < M-1$ のとき $H_k = H_{k+1}$ となる「平坦な領域」問題を回避する。これは差分ベース推定量で一般的な過剰停止の原因となる。
• 両推定量の一貫性は、経験エントロピーの収束速度と繰り返し対数法則に依存しており、$\sqrt{\log \log n / n}$ を含む明示的境界が得られる。
• これらの推定量はモデルの誤指定に強く、アルファベットサイズや真の次数の事前知識を必要としないため、非パラメトリック設定に適している。