[論文レビュー] Hierarchically-coupled hidden Markov models for learning kinetic rates from single-molecule data

Jan-Willem van de Meent, Jonathan E. Bronson+3 more|PubMed|May 15, 2013

Microfluidic and Capillary Electrophoresis Applications参考文献 27被引用数 31

ひとこと要約

本稿では、ノイズの多い単分子時間系列から一貫性のある力学的反応速度を、変分的経験ベイズ（VEB）を用いて階層的に結合された隠れマルコフモデル（HMM）を用いて学習する手法を提案する。分子間のばらつきを自動的に考慮し、共通のハイパーパラメータを通じてパラメータを共有することで、推論の正確性を向上させ、過学習を抑制する。この手法により、不均一なデータからバイオ分子動態を堅牢かつ解釈可能な形でモデル化できる。

ABSTRACT

We address the problem of analyzing sets of noisy time-varying signals that all report on the same process but confound straightforward analyses due to complex inter-signal heterogeneities and measurement artifacts. In particular we consider single-molecule experiments which indirectly measure the distinct steps in a biomolecular process via observations of noisy time-dependent signals such as a fluorescence intensity or bead position. Straightforward hidden Markov model (HMM) analyses attempt to characterize such processes in terms of a set of conformational states, the transitions that can occur between these states, and the associated rates at which those transitions occur; but require ad-hoc post-processing steps to combine multiple signals. Here we develop a hierarchically coupled HMM that allows experimentalists to deal with inter-signal variability in a principled and automatic way. Our approach is a generalized expectation maximization hyperparameter point estimation procedure with variational Bayes at the level of individual time series that learns an single interpretable representation of the overall data generating process.

研究の動機と目的

• 実験的アーティファクトや物理的不均一性により、分子間で構造的状態の平均値や遷移レートが異なる、不均一な単分子時間系列の解析という課題に対処する。
• 個々の分子モデルを組み合わせるために後処理を要する標準的HMMの限界を克服し、誤差が生じやすく、原理的かつ一貫した不確実性の評価ができない。
• 分子間でパラメータを共有する階層的事前分布を通じて、時間系列のアンサンブルから一貫した解釈可能な共通の反応機構を学ぶ統一的統計枠組みを構築する。
• 経験ベイズによるハイパーパrameter推定により、アンサンブルレベルの知識を個々の分子モデルに統合することで、大規模な単分子データセットにおける堅牢な推論を可能にする。
• 状態パラメータの事前分布と事後分布を比較することで、モデルの妥当性を診断するツールを提供し、実験者がモデルとデータの整合性を評価できるようにする。

提案手法

• 各分子のデータが潜在状態過程 $ z_n $ と観測値 $ x_n $ を持ち、パラメータ $ \theta_n $ が共通のハイパーパラメータ $ \psi $ に従う事前分布 $ p(\theta|\psi) $ から抽出される、条件付き独立な階層的HMMを定式化する。
• 個々の時間系列レベルで変分ベイズ（VB）推論を適用し、周辺尤度の下界を最大化することで、事後分布 $ p(z_n, \theta_n | x_n, \psi) $ を近似する。
• 一般化された期待値最大化（EM）手続きを用い、逐次的に変分パラメータを更新し、その後ハイパーパラメータ $ \psi $ に関して下界を最大化することで、変分的経験ベイズ（VEB）アルゴリズムを実装する。
• 経験ベイズによるハイパーパラメータ $ \psi $ の推定により、手動でのチューニングなしに、アンサンブル全体における共通パラメータ分布を自動的に学習できる。
• モデル選択にはBICに類似した基準 $ \text{BIC} = -2L^{\text{veb}} + K(K+5)\log N $ を用い、適合度と複雑さのバランスを取って最適な状態数を特定する。
• 実データとシミュレートデータの間で、下界尤度と有効な状態数を比較することで、モデルの性能を検証し、乖離が生じる場合でも過学習に強いことを示す。

実験結果

リサーチクエスチョン

• RQ1 状態の平均値や遷移レートに顕著な分子間ばらつきを示す大規模な単分子時間系列アンサンブルから、一貫した反応機構をどのように学習できるか？
• RQ2 画像処理アーティファクト や 光分解などの実験的不均一性を、後処理を要せず、階層的HMMフレームワークが自動的に補正できるか？
• RQ3 共通のハイパーパラメータを通じてパラメータを共有することで、独立したHMMと比較して、推論の正確性と頑健性がどの程度向上するか？
• RQ4 データがモデル仮定から逸脱している場合でも、仮定されたグラフィカルモデルと観測データとの整合性をどのように評価できるか？
• RQ5 真のデータ生成過程が仮定モデルと異なる場合でも、VEB手法は実際の過学習を抑制するか？

主な発見

• VEB手法は、336本のsmFRET時間系列から、階層的事前分布を通じて状態の平均値と遷移レートを分子間で共有する、一貫した解釈可能な共通反応機構を学習した。
• 共通のハイパーパラメータを通じてアンサンブルレベルの情報を活用することで、個々の時間系列の推論精度が向上し、経験ベイズ理論と整合的である。
• 実データでは、状態数 $ K $ が増加するにつれて、下界尤度 $ L^{\text{veb}} $ が単調に増加し、非対称性 や 長い尾部 といったデータの乖離に起因する追加の状態をモデルが検出できることを示している。
• 一方、モデル不一致のないシミュレートデータでは、有効な状態数の増加が最小限に抑えられ、過学習時には $ L^{\text{veb}} $ がわずかに減少するため、過学習に対する内蔵された耐性があることが示された。
• 実データでは、状態パラメータの事後分布に二峰性のシグネチャーが観察され、例えばEF-G結合型と非結合型リボソームといったサブプールの存在を示唆しており、モデルの精緻化に役立つ。
• BICに類似した基準によるモデル選択により、4状態モデルが最適と特定され、標準的手法が見逃す非ガウス的特徴を、この手法は成功裏に捉えた。