[論文レビュー] Generic identification of binary-valued hidden Markov processes

Alexander Schönhuth|arXiv (Cornell University)|Jan 19, 2011

Mass Spectrometry Techniques and Applications被引用数 1

ひとこと要約

本稿では、代数的統計学を用いて、二値の隠れマルコフ過程（HMP）の特定問題に対する汎用的でアルゴリズム的な解決策を提示する。著者らは、このようなHMPの確率分布が行列式代数的多様体上に位置することを示し、与えられた有限長の分布がd ≤ (n+1)/2個の隠れ状態を持つHMPから生じるかどうかを決定する方法を提供するとともに、状態の順列を除き一意にそのパラメータを再構成可能である。この手法は、線形代数的ルーチンに依存する。

ABSTRACT

The generic identification problem is to decide whether a stochastic process $(X_t)$ is a hidden Markov process and if yes to infer its parameters for all but a subset of parametrizations that form a lower-dimensional subvariety in parameter space. Partial answers so far available depend on extra assumptions on the processes, which are usually centered around stationarity. Here we present a general solution for binary-valued hidden Markov processes. Our approach is rooted in algebraic statistics hence it is geometric in nature. We find that the algebraic varieties associated with the probability distributions of binary-valued hidden Markov processes are zero sets of determinantal equations which draws a connection to well-studied objects from algebra. As a consequence, our solution allows for algorithmic implementation based on elementary (linear) algebraic routines.

研究の動機と目的

• 定常性やその他の制限的仮定を必要とせずに、二値の隠れマルコフ過程（HMP）の汎用的同定問題を解くこと。
• d ≤ (n+1)/2個の隠れ状態を持つHMPの有限同定問題に対して、アルゴリズム的解決策を提供すること。
• HMPの分布と行列式代数的多様体との間の関係を確立し、幾何学的および計算的取り扱いを可能にすること。
• すべてのパrameter設定のうち、次元が低い集合を除き、完全で汎用的な解決策を提供すること。
• HMPの同定に向けた基礎的な代数的幾何的ツールを、その関連多様体のイデアル的特徴付けに基づいて構築すること。

提案手法

• HMPを代数的統計モデルとしてモデル化し、その確率分布を次元d² + d − 1の実アフィン空間内の点として表現する。
• すべての有効なHMP分布の集合を、行列式方程式の零点集合として定義される代数的多様体Nd ⊂ ℝ^{d²+d−1}として特徴付ける。
• 次元の議論を用いて、Ndが全パラメータ空間よりも次元が低いことを示し、これは一般には零集合であることを示唆する。
• 線形代数（例：ランク条件）に基づくアルゴリズム的手法を適用し、観測された分布PがNdの補集合上にあるかどうかをテストする。
• HMPが順序dのとき、長さ2d−1の文字列上の分布によって一意に決定されることを活用し、有限長の推論を可能にする。
• イデアル的および集合論的結果（例：補題6.12および定理6.10）を用いて、二値アルファベットの場合に、有限的過程とHMPの多様体が一致することを証明する。

実験結果

リサーチクエスチョン

• RQ1 定常性やその他の構造的制約を仮定せずに、二値のHMPの汎用的同定問題を解くことは可能か？
• RQ2 二値HMPの確率分布の背後にある代数的幾何的構造は何か？
• RQ3 与えられた有限長の分布が、d ≤ (n+1)/2個の隠れ状態を持つ隠れマルコフ過程から生じるかどうかを判定する有限でアルゴリズム的な基準は存在するか？
• RQ4 二値の場合に、有限的過程とHMPの代数的多様体はどのように関係するか？
• RQ5 線形代数的手法のみを用いて、二値HMPのパラメータをその有限長分布から一意に再構成できるか？

主な発見

• d個の隠れ状態を持つ二値HMPから生じるすべての確率分布の集合は、次元がd² + d − 1より小さい行列式代数的多様体Ndを形成する。
• 有限同定問題の解決策はアルゴリズム的であり、ランク計算などの基本的な線形代数的ルーチンに依存する。
• |Σ|=2およびd ≤ (n+1)/2を満たす任意の分布P:Σⁿ→[0,1]について、アルゴリズムはPがd個の隠れ状態を持つHMPから生成されたものかどうかを、パrameterの零集合を除き正しく同定する。
• PがHMPの分布である場合、推定されたパラメータは状態の順列を除き一意に特定可能である。
• 二値アルファベットの場合、有限的過程とHMPの多様体は一致するため、イデアル的特徴付けを用いて主要な結果を確立できる。
• 本手法は、有限長の推論タスクへの還元により、アルゴリズム的決定可能性を備えた、元の汎用的同定問題（問題1.1）に対する完全な解決策を提供する。