[論文レビュー] Automated adaptive inference of coarse-grained dynamical models in systems biology

Bryan C. Daniels, Ilya Nemenman|arXiv (Cornell University)|Apr 24, 2014

Gene Regulatory Network Analysis参考文献 39被引用数 6

ひとこと要約

本稿では、利用可能なデータに応じてモデルの複雑さを自動的に調整することで、システム生物学における粗視的な力学的モデルを推論する、適応的で計算的に効率的な手法を提案する。階層的かつネストされたモデル空間と、マルコフ連鎖モンテカルロを用いたベイズ的モデル選択により、過剰適合を回避し、観測されない変数や限られたデータのもとでも正確な予測が可能であることが、惑星運動、シグナル伝達経路、イースト糖解離酵素系のモデルで示された。

ABSTRACT

Cellular regulatory dynamics is driven by large and intricate networks of interactions at the molecular scale, whose sheer size obfuscates understanding. In light of limited experimental data, many parameters of such dynamics are unknown, and thus models built on the detailed, mechanistic viewpoint overfit and are not predictive. At the other extreme, simple ad hoc models of complex processes often miss defining features of the underlying systems. Here we propose an approach that instead constructs phenomenological, coarse-grained models of network dynamics that automatically adapt their complexity to the amount of available data. Such adaptive models lead to accurate predictions even when microscopic details of the studied systems are unknown due to insufficient data. The approach is computationally tractable, even for a relatively large number of dynamical variables, allowing its software realization, named Sir Isaac, to make successful predictions even when important dynamic variables are unobserved. For example, it matches the known phase space structure for simulated planetary motion data, avoids overfitting in a complex biological signaling system, and produces accurate predictions for a yeast glycolysis model with only tens of data points and over half of the interacting species unobserved.

研究の動機と目的

• システム生物学における詳細な機械的モデルの過剰適合問題に、実験的データが不足していることが起因するという課題に対処すること。
• データの可用性に応じてモデルの複雑さを自動的に選択する手法を開発し、微視的詳細に依存しないこと。
• 主要な変数が観測されていなくても、時間系列データから力学的システムを推論する計算的に実行可能なアプローチを構築すること。
• 現象論的モデルのネストされた完全な階層を用いることで、統計的整合性を保ち、過剰適合を回避すること。
• データが要求する以上に単純でないが、可能な限り単純な解釈可能で予測可能なモデルを提供すること。

提案手法

• 本手法は、各モデルが次のモデルの簡略化である、ネストされた完全な粗視的力学的モデルの階層を用いる。これにより統計的整合性が保証される。
• モデル選択はベイズ的モデル証拠を用い、各モデルの対数尤度はマージナル尤度のラプラス近似により計算される。
• ハイブリッドモンテカルロ法（メトロポリス・ハスティングス法）を用いて、モデルパラメータの事後分布からサンプリングを行い、カイ二乗関数のヘッセ行列に基づく適応的提案分布を用いる。
• 局所的パラメータ最適化には、正規化されたカイ二乗を最小化するためのレーベンバーグ・マーカート法を用い、勾配の閾値による収束チェックを実施する。
• MCMCサンプリングにおける探索と受容率のバランスをとるために、温度調整付き尤度を用い、パラメータの事前分布は初期点におけるヘッセ行列に基づいて設定される。
• モデル評価には、各モデルサイズごとの累積統合回数を用い、モデルの複雑さが飽和した後は計算コストが線形に増加する。

実験結果

リサーチクエスチョン

• RQ1 データの量に応じて、モデルの複雑さを自動的に調整し、観測が限られた系において過剰適合を回避できるモデル推論手法は、実現可能か？
• RQ2 主要な変数が観測されていなくても、複雑なダイナミクスを正確に捉えつつ、解釈可能な現象論的モデルをどのように構築できるか？
• RQ3 ベイズ的モデル選択を伴う階層的・ネストされたモデル空間は、非線形力学的系において一貫性があり、予測可能な推論を可能にするか？
• RQ4 データがスパースまたはノイズが多い状況では、従来の機械的モデリングに比べて、この手法はどの程度優れているか？
• RQ5 既知のダイナミクス的構造（例：位相空間）を、下位のメカニズムを事前に知らずに時間系列データから信頼性高く回復できるか？

主な発見

• 時間系列データのみを用いて、シミュレートされた惑星運動の既知の位相空間構造を正確に回復し、定性的な予測の正確性を示した。
• 高次元的かつノイズの多いデータを伴う複雑な生物学的シグナル伝達系において、適応的モデルは過剰適合を回避し、信頼性の高い予測を生成した。
• 50個未塔のデータポイントと50%以上の種が観測されていないイースト糖解離酵素系のモデルにおいて、約65パラメータを持つモデルを選択することで、正確な予測を達成した。
• モデルの複雑さがデータ量に応じて増加する場合、モデル評価回数はデータサイズに対して超線形的に増加したが、モデルサイズが飽和した後は線形に増加し、計算効率が保証された。
• ヘッセ固有値が1より大きい有効パラメータ数は、データポイント数を下回ったため、モデルの一貫性が確認され、過剰適合が回避された。
• ソフトウェア名「Sir Isaac」に実装された本手法は、観測されない変数や非線形ダイナミクスを伴う多様な系において、強固な性能を示した。