[논문 리뷰] Hierarchically-coupled hidden Markov models for learning kinetic rates from single-molecule data

Jan-Willem van de Meent, Jonathan E. Bronson외 3명|PubMed|2013. 05. 15.

Microfluidic and Capillary Electrophoresis Applications참고 문헌 27인용 수 31

한 줄 요약

이 논문은 잡음이 있는 단일 분자 시계열에서 공통의 운동 기초 속도를 학습하기 위해 변분 경험 베이즈(VEB)를 사용한 계층적 결합 히든 마르코프 모델을 제안한다. 이 방법은 분자 간 변동성을 자동으로 반영하며, 공통의 초우도를 통해 분자 간 매개변수를 공유함으로써 추론 정확도를 향상시키고 과적합을 저항한다. 이는 이질적인 데이터에서 생물 분자의 동역학을 강건하고 해석 가능한 방식으로 모델링할 수 있게 한다.

ABSTRACT

We address the problem of analyzing sets of noisy time-varying signals that all report on the same process but confound straightforward analyses due to complex inter-signal heterogeneities and measurement artifacts. In particular we consider single-molecule experiments which indirectly measure the distinct steps in a biomolecular process via observations of noisy time-dependent signals such as a fluorescence intensity or bead position. Straightforward hidden Markov model (HMM) analyses attempt to characterize such processes in terms of a set of conformational states, the transitions that can occur between these states, and the associated rates at which those transitions occur; but require ad-hoc post-processing steps to combine multiple signals. Here we develop a hierarchically coupled HMM that allows experimentalists to deal with inter-signal variability in a principled and automatic way. Our approach is a generalized expectation maximization hyperparameter point estimation procedure with variational Bayes at the level of individual time series that learns an single interpretable representation of the overall data generating process.

연구 동기 및 목표

• 실험적 오차와 물리적 이질성으로 인해 분자 간 구조적 상태 평균과 전이 속도가 변동하는 이질적인 단일 분자 시계열을 분석하는 데 도전하는 것.
• 표준 HMM이 개별 분자 모델을 조합하기 위해 사전 처리가 필요하며, 이는 오류가 발생하기 쉬우며 체계적인 불확실성 측정이 부족한 점을 해결하는 것.
• 계층적 우선분포를 통해 분자 간 매개변수를 공유함으로써 앙상블의 시계열 집합에서 단일이고 해석 가능한 공통의 운동 기초도를 학습하는 통합 통계 프레임워크를 개발하는 것.
• 경험 베이즈 초우도 매개변수 추정을 통해 앙상블 수준의 지식을 개별 분자 모델링에 통합함으로써 대규모 단일 분자 데이터셋에서 강건한 추론을 가능하게 하는 것.
• 사전 분포와 사후 분포를 비교하여 모델 검증을 위한 진단 도구를 제공함으로써 실험자가 모델과 데이터의 일치 정도를 평가할 수 있도록 하는 것.

제안 방법

• 각 분자의 데이터가 잠재 상태 과정 $ z_n $ 와 관측치 $ x_n $ 를 가지며, 매개변수 $ \theta_n $ 가 공통의 초우도 $ p(\theta|\psi) $ 에서 추출되는 조건부 독립 계층적 HMM을 수립한다.
• 개별 시계열 수준에서 변분 베이즈(VB) 추론을 적용하여 사후 분포 $ p(z_n, \theta_n | x_n, \psi) $ 를 근사하고, 주변 가능도에 대한 하한을 최대화한다.
• 변분 매개변수를 반복적으로 업데이트한 후, 하한을 초우도 매개변수 $ \psi $ 에 대해 최대화하는 일반화된 기대값 최대화(EM) 절차를 적용하여 변분 경험 베이즈(VEB) 알고리즘을 구현한다.
• 경험 베이즈를 사용해 초우도 매개변수 $ \psi $ 를 추정함으로써 앙상블 전반에 걸쳐 공통의 매개변수 분포를 수동 조정 없이 자동으로 학습할 수 있도록 한다.
• 모델 선택을 위해 BIC 유사 기준 $ \text{BIC} = -2L^{\text{veb}} + K(K+5)\log N $ 를 사용하여 최적의 상태 수를 결정하며, 적합도와 복잡도 사이의 균형을 맞춘다.
• 실제 데이터와 시뮬레이션 데이터에서 증거 하한과 효과적 상태 수를 비교하여 모델 성능을 검증하고, 불일치가 존재할 경우 과적합에 저항하는 능력을 입증한다.

실험 결과

연구 질문

• RQ1 상태 평균과 전이 속도에 있어 분자 간 상당한 변동성이 있는 대규모 단일 분자 시계열 앙상블에서 일관된 운동 기초도를 어떻게 학습할 수 있는가?
• RQ2 이질적인 실험적 요인(예: 영상 처리 오류, 광분해)을 사전 처리 없이도 계층적 HMM 프레임워크가 자동으로 반영할 수 있는가?
• RQ3 공통의 초우도를 통해 분자 간 매개변수를 공유함으로써 독립적 HMM에 비해 추론 정확도와 강건성은 얼마나 향상되는가?
• RQ4 데이터가 모델 가정과 다를 경우, 가설적인 그래프 모델과 관측 데이터 간의 일치 정도를 어떻게 평가할 수 있는가?
• RQ5 실제로 과적합에 저항하는가? 특히 진짜 데이터 생성 과정이 가정된 모델과 다를 경우에도 그러한가?

주요 결과

• VEB 방법은 336개의 smFRET 시계열에서 계층적 우선분포를 통해 상태 평균과 전이 속도를 분자 간 공유함으로써 단일이고 해석 가능한 공통의 운동 기초도를 학습한다.
• 공통의 초우도를 통해 앙상블 수준의 정보를 활용함으로써 개별 시계열에서의 추론 정확도가 향상되며, 이는 경험 베이즈 이론과 일치한다.
• 실제 데이터에서는 상태 수 $ K $ 가 증가할수록 증거 하한 $ L^{\text{veb}} $ 가 단조적으로 증가하며, 비대칭성과 긴 尾部 등 데이터 불일치로 인해 추가 상태를 탐지할 수 있음을 시사한다.
• 반대로, 모델 불일치가 없는 시뮬레이션 데이터는 효과적 상태 수의 증가가 미미하고, 과적합 시 $ L^{\text{veb}} $ 가 약간 감소함을 보이며 과적합에 대한 내재된 저항성을 입증한다.
• 실제 데이터에서 상태 매개변수의 사후 분포는 双모달 서명을 보이며, 예를 들어 EF-G 결합 여부에 따라 다른 리보솜 집단(예: 결합 vs. 비결합)이 존재할 수 있음을 시사한다. 이는 모델 정밀화에 기여할 수 있다.
• BIC 유사 기준을 통한 모델 선택은 4상태 모델을 최적으로 식별하였으며, 이 방법은 기존 모델이 간과하는 비정규 분포 특징을 성공적으로 포착하였다.