[論文レビュー] Minimal Markov Models

Jesus E. Garcia Veronica A. Gonzalez-Lopez|arXiv (Cornell University)|Feb 3, 2010

Algorithms and Data Compression参考文献 5被引用数 5

ひとこと要約

本稿では、状態空間 $A^M$ の分割を用いて、同一の遷移分布を持つ状態を同値類にグループ化することにより、パラメータ数を最小化する新しい有限次元マルコフ連鎖のクラス、Minimal Markov Models (MMMs) を導入する。モデルはベイズ情報量基準（BIC）を用いて一貫的に選択され、パrameter推定およびモデル選択において漸近的最適性が保証される。

ABSTRACT

In this work we introduce a new and richer class of finite order Markov chain models and address the following model selection problem: find the Markov model with the minimal set of parameters (minimal Markov model) which is necessary to represent a source as a Markov chain of finite order. Let us call $M$ the order of the chain and $A$ the finite alphabet, to determine the minimal Markov model, we define an equivalence relation on the state space $A^{M}$, such that all the sequences of size $M$ with the same transition probabilities are put in the same category. In this way we have one set of $(|A|-1)$ transition probabilities for each category, obtaining a model with a minimal number of parameters. We show that the model can be selected consistently using the Bayesian information criterion.

研究の動機と目的

• 確率的ソースを有限次元マルコフ連鎖として表現するために必要な最小パラメータ集合を特定する問題に対処すること。
• 状態空間 $A^M$ の分割によって定義される、完全マルコフ連鎖や可変長マルコフ連鎖（VLMCs）を超えるより豊かなマルコフモデルのクラスを導入すること。
• ベイズ情報量基準（BIC）を用いた一貫性のあるモデル選択を保証し、真の潜在的モデル構造の漸近的最適同定を可能にすること。
• 提案されたモデルクラスが、完全マルコフ連鎖とVLMCsを特別なケースとして含むことを示し、既存の枠組みを一般化すること。
• 新しいモデルクラスにおいて、BICに基づく選択の理論的一貫性保証を提供し、VLMCsに関する先行研究を拡張すること。

提案手法

• 状態空間 $A^M$ の分割 $\mathcal{L} = \{L_1, \dots, L_K\}$ を定義し、同じ分割クラス $L$ に属する状態は、すべての $a \in A$ に対して同一の遷移確率を持つものとする。
• 各分割クラス $L$ に対して、遷移確率 $P(a|L) = \text{Prob}(X_t = a \mid X_{t-M}^{t-1} \in L)$ を推定し、パラメータ数を $K(|A|-1)$ に削減する。
• 経験頻度 $r_n(L,a) = N_n^\mathcal{L}(L,a)/n$ および $r_n(L) = N_n^\mathcal{L}(L)/n$ を用いた修正最大尤度推定器を用いる。
• モデル比較にベイズ情報量基準（BIC）を適用する：$\text{BIC}(\mathcal{L}, x_1^n) = \log \text{ML}(\mathcal{L}, x_1^n) - \frac{(|A|-1)}{2} \ln n$ であり、$\text{ML}$ は分割モデルの尤度を表す。
• モデル $\mathcal{L}$ とその統合バージョン $\mathcal{L}^{ij}$（クラス $L_i$ と $L_j$ を統合したもの）との間のBIC差を用い、統合が適合性と複雑さのトレードオフを改善するかどうかを検定する。
• 正則性条件の下で、$P(a|L_i) = P(a|L_j)$ である場合に限り、BIC差 $\text{BIC}(\mathcal{L}, x_1^n) - \text{BIC}(\mathcal{L}^{ij}, x_1^n)$ が高確率で負となり、逆に異なる場合には正となることを示し、BICが真の最小モデルを一貫して選択することを証明する。

実験結果

リサーチクエスチョン

• RQ1 共有される遷移分布に基づいて状態空間 $A^M$ を分割することで、より柔軟かつパラメータ効率の良い有限次元マルコフモデルのクラスを定義できるか？
• RQ2 ベイズ情報量基準（BIC）は、この新しいモデルクラスに対して一貫性のあるモデル選択基準として適切か？
• RQ3 2つの分割クラス $L_i$ と $L_j$ を統合することが、BICスコアを向上させる条件は何か？ これは遷移確率 $P(a|L_i) = P(a|L_j)$ の等価性とどのように関係するか？
• RQ4 提案されたモデルクラスは、完全マルコフ連鎖や可変長マルコフ連鎖（VLMCs）といった既存のモデルとどのように関係するか？
• RQ5 BICに基づく選択手順は、観測データを生成する真の最小分割構造を漸近的に回復できるか？

主な発見

• 提案されたMinimal Markov Modelクラスは、状態空間 $A^M$ の分割に基づいて定義され、同一の遷移分布を持つ状態がグループ化されることで、完全マルコフ連鎖とVLMCsを一般化する。
• 各分割クラスごとに $|A|-1$ 個の遷移確率を割り当てることで、パラメータ数を最小化し、全パラメータ数を $|A|^M(|A|-1)$ から $K(|A|-1)$ に削減する（$K$ はクラス数）。
• BIC基準がモデル選択において一貫性を持つことが示された：$n \to \infty$ のとき、BICは高確率で真の最小分割を同定する。
• 一貫性の証明は、統合モデルとのBIC差が、かつてのみ $P(a|L_i) = P(a|L_j)$ である場合に限り負になることを示すことに依拠している（すべての $a \in A$ に対して）。
• 理論的分析により、BICペナルティ項 $\frac{(|A|-1)}{2} \ln n$ が過剰適合を防ぐのに十分であり、経験分布と真の分布の相対エントロピー（カルバック・ライブラー距離）が $\ln n / n$ のレートで減少することが示された。
• 第3節のシミュレーションにより、BICに基づく選択アルゴリズムの一致性が確認され、$n$ が増加するにつれて真の最小モデルが高確率で回復されることを示した。