[論文レビュー] Lumpings of Markov chains and entropy rate loss

Bernhard C. Geiger, Christoph Temmel|arXiv (Cornell University)|Dec 18, 2012

Alzheimer's disease research and treatments参考文献 21被引用数 3

ひとこと要約

本稿は、有限状態空間上の非周期的かつ再帰的マルコフ連鎖の lumping におけるエントロピー・レート保存を、前像の成長と再構成情報に基づく組み合わせ的基準を用いて特徴づける。正の遷移行列を有する連鎖の非自明な lumping はすべてエントロピー・レート損失を引き起こすことを証明し、スパースな設定におけるエントロピー・レート保存および強い k-lumpability のための条件を提示する。

ABSTRACT

A lumping of a Markov chain is a coordinate-wise projection of the chain. We characterise the entropy rate preservation of a lumping of an aperiodic and irreducible Markov chain on a finite state space by the random growth rate of the cardinality of the realisable preimage of a finite-length trajectory of the lumped chain and by the information needed to reconstruct original trajectories from their lumped images. Both are purely combinatorial criteria, depending only on the transition graph of the Markov chain and the lumping function. Every non-trivial lumping of a Markov chain with positive transition matrix incurs an entropy rate loss. A lumping is strongly k-lumpable, iff the lumped process is a k-th order Markov chain, for each starting distribution of the original Markov chain. We characterise strongly k-lumpable lumpings via tightness of stationary entropic bounds. In the sparse setting, we give sufficient conditions on the lumping to both preserve the entropy rate and be strongly k-lumpable.

研究の動機と目的

• 有限状態空間上の非周期的かつ再帰的連鎖に制限して、マルコフ連鎖の lumping がエントロピー・レートを保存する条件を特徴づけること。
• エントロピー・レート保存を決定づける、前像の基数の成長率と再構成情報に基づく組み合わせ的条件を同定すること。
• lumped プロセスが任意の初期分布に対して k 階マルコフ連鎖のままであるという意味で、lumping が強い k-lumpable である条件を分析すること。
• エントロピー・レート保存および強い k-lumpability の両方を満たす十分条件を、スパースな設定において確立すること。

提案手法

• lumped 連鎖の有限長の軌道の前像の基数の確率的成長率を、エントロピー・レート保存の組み合わせ的基準として用いる。
• lumped 影像から元の軌道を再構成するために必要な情報を、エントロピー・レート保存の第二の組み合わせ的基準として導入する。
• 強い k-lumpability を、元の連鎖の任意の初期分布に対して、lumped プロセスが k 階マルコフ連鎖であるという性質として定義する。
• 定常エントロピーの境界のタイトネスを用いて、強い k-lumpable な lumping の特徴づけを確立する。
• これらの基準をスパースなマルコフ連鎖に適用し、エントロピー・レート保存および強い k-lumpability の両方を満たすための十分条件を導出する。

実験結果

リサーチクエスチョン

• RQ1 遷移グラフおよび lumping 関数にどのような組み合わせ的条件が満たされると、マルコフ連鎖の lumping においてエントロピー・レートが保存されるか？
• RQ2 軌道の前像基数の成長率は、lumped マルコフ連鎖におけるエントロピー・レート保存とどのように関係するか？
• RQ3 元の軌道を再構成するために必要な情報と、lumping におけるエントロピー・レート損失の関係は何か？
• RQ4 lumping が強い k-lumpable であるとはどのような状況か？また、スパースなマルコフ連鎖においてこの性質を保証する条件は何か？
• RQ5 正の遷移行列を有するマルコフ連鎖の非自明な lumping において、エントロピー・レート保存と強い k-lumpability が同時に成立しうるか？

主な発見

• 正の遷移行列を有するマルコフ連鎖の非自明な lumping は、すべてエントロピー・レート損失を引き起こす。
• エントロピー・レート保存は、前記の二つの純粋な組み合わせ的基準、すなわち前像基数の確率的成長率と元の軌道を再構成するための情報量によって特徴づけられる。
• 強い k-lumpability は、定常エントロピーの境界のタイトネスを用いて特徴づけられ、lumped プロセスにおける高階マルコフ性の理論的基盤を提供する。
• スパースな設定において、lumping がエントロピー・レートを保存するとともに強い k-lumpable であるための十分条件が導出された。
• エントロピー・レート保存の基準は、特定の初期分布に依存せず、遷移グラフと lumping 関数にのみ依存する。