[論文レビュー] Continuous Time Markov Networks

Tal El‐Hay, Nir Friedman+2 more|arXiv (Cornell University)|Jun 27, 2012

Bayesian Modeling and Causal Inference参考文献 13被引用数 13

ひとこと要約

本稿では、局所的遷移提案と、マーカフネットワークとして符号化されたグローバルなフィットネス関数を組み合わせることで、連続時間確率過程をモデル化する新しいフレームワークである連続時間マーカフネットワーク（CTMNs）を紹介する。モデルはフィットネス関数を用いて、状態変化を確率的に受容または拒否し、定常分布がネットワークのポテンシャル関数と一致するように保証することで、生物学的配列進化などの複雑なダイナミクスのコンパクトな表現が可能になる。

ABSTRACT

A central task in many applications is reasoning about processes that change in a continuous time. The mathematical framework of Continuous Time Markov Processes provides the basic foundations for modeling such systems. Recently, Nodelman et al introduced continuous time Bayesian networks (CTBNs), which allow a compact representation of continuous-time processes over a factored state space. In this paper, we introduce continuous time Markov networks (CTMNs), an alternative representation language that represents a different type of continuous-time dynamics. In many real life processes, such as biological and chemical systems, the dynamics of the process can be naturally described as an interplay between two forces - the tendency of each entity to change its state, and the overall fitness or energy function of the entire system. In our model, the first force is described by a continuous-time proposal process that suggests possible local changes to the state of the system at different rates. The second force is represented by a Markov network that encodes the fitness, or desirability, of different states; a proposed local change is then accepted with a probability that is a function of the change in the fitness distribution. We show that the fitness distribution is also the stationary distribution of the Markov process, so that this representation provides a characterization of a temporal process whose stationary distribution has a compact graphical representation. This allows us to naturally capture a different type of structure in complex dynamical processes, such as evolving biological sequences. We describe the semantics of the representation, its basic properties, and how it compares to CTBNs. We also provide algorithms for learning such models from data, and discuss its applicability to biological sequence evolution.

研究の動機と目的

• 局所的遷移ダイナミクスとグローバルなシステムレベルの好みを両方とも捉える、連続時間確率過程の新しい表現を構築すること。
• 個々の要因の傾向と全体のシステムのフィットネスの両方が状態変化に影響を与えるようなシステム、例えば生物学的・化学的プロセスをモデル化すること。
• プロセスの定常分布がグラフィカルモデルのポテンシャル関数と正確に一致することを保証し、整合的な推論と学習を可能にすること。
• 特に変化する生物学的配列に特に適した、時間的データからCTMNsのパラメータを推定する学習アルゴリズムを提供すること。
• CTMNsに形式的な意味論と理論的基盤を提供し、CTBNsなど既存のモデルと明確に区別すること。

提案手法

• 各状態遷移が局所的・レートベースの提案プロセスによって提示される連続時間マーカフ過程を定義する。
• 提案された遷移は、マーカフネットワークのポテンシャル関数で定義されたシステムのフィットネスの変化に依存する確率で受容される。
• フィットネス関数はマーカフネットワークとして符号化され、クリーク上のポテンシャル関数が異なる状態構成の望ましさを反映する。
• 受容確率はフィットネス変化の比から導出され、ネットワークの分布における詳細つり合いと定常性を保証する。
• プロセスは、マーカフネットワーク上のギブス分布が定常分布となるように構築され、一貫した長期的挙動を実現する。
• 観測された時間的軌道からの最尤推定に基づく学習アルゴリズムが開発され、勾配ベースの最適化が用いられる。

実験結果

リサーチクエスチョン

• RQ1 局所的遷移レートとグローバルなシステムのフィットネスが、ダイナミクスに共同で影響を与える連続時間プロセスをどのようにモデリングできるか。
• RQ2 マーカフネットワークのポテンシャル関数によって定義されるギブス分布が、正確に定常分布となるような連続時間マーカフ過程を構築できるか。
• RQ3 表現力、定常性、複雑な依存関係のモデリングの観点から、CTMNsはCTBNsとどのように異なるか。
• RQ4 時間的データからフィットネス関数と遷移レートのパラメータを推定するための学習アルゴリズムは何か。
• RQ5 CTMNsは、相互に依存する複雑な状態変化を示す現実世界のプロセス、例えば進化的に変化する生物学的配列を効果的にモデリングできるか。

主な発見

• CTMNプロセスの定常分布は、マーカフネットワークのポテンシャル関数によって定義されるギブス分布と正確に一致し、フィットネスモデルと整合的であることが保証される。
• モデルはダイナミクスを局所的提案メカニズムとグローバルなフィットネス評価に自然に分解可能であり、モジュラで解釈可能なモデリングを可能にする。
• 状態遷移の受容確率はフィットネス変化の比から導出され、詳細つり合いを満たし、目的分布への収束を保証する。
• 最尤推定に基づく時間的データからの学習が可能であり、遷移レートとポテンシャル関数パラメータの両方の最適化が可能である。
• モデルは、相互に依存する突然変異とフィットネスランドスケープが自然に捉えられる生物学的配列進化に適用可能であることが示された。
• CTMNsはCTBNsとは補完的であるが、特に状態遷移においてグローバルなシステムのフィットネスが支配的役割を果たすようなシステムに特に適している。