[논문 리뷰] Autocorrelated measurement processes and inference for ordinary differential equation models of biological systems

Ben Lambert, Chon Lok Lei외 6명|arXiv (Cornell University)|2022. 10. 04.

Gene Regulatory Network Analysis인용 수 2

한 줄 요약

이 논문은 생물학적 시스템의 미분방정식(OED) 모델에서 널리 퍼져 있는 독립적이고 동일하게 분포된(IID) 정규잡음 가정을 도전하며, 지속적인 측정 오차로 인한 자기상관 측정 오차가 매개변수 불확실성을 인위적으로 감소시킨다는 것을 보여준다. 자기상관을 진단하기 위한 워크플로우를 제안하고, ARMA 및 상태공간 시간시계열(STS) 모델을 활용해 추론를 교정하며, 자기상관을 忽시할 경우 매개변수 추정치가 과신하게 되는 결과를 보인다.

ABSTRACT

Ordinary differential equation models are used to describe dynamic processes across biology. To perform likelihood-based parameter inference on these models, it is necessary to specify a statistical process representing the contribution of factors not explicitly included in the mathematical model. For this, independent Gaussian noise is commonly chosen, with its use so widespread that researchers typically provide no explicit justification for this choice. This noise model assumes `random' latent factors affect the system in ephemeral fashion resulting in unsystematic deviation of observables from their modelled counterparts. However, like the deterministically modelled parts of a system, these latent factors can have persistent effects on observables. Here, we use experimental data from dynamical systems drawn from cardiac physiology and electrochemistry to demonstrate that highly persistent differences between observations and modelled quantities can occur. Considering the case when persistent noise arises due only to measurement imperfections, we use the Fisher information matrix to quantify how uncertainty in parameter estimates is artificially reduced when erroneously assuming independent noise. We present a workflow to diagnose persistent noise from model fits and describe how to remodel accounting for correlated errors.

연구 동기 및 목표

• 생물학적 시스템의 ODE 모델에서 자기상관 측정 잡음이 매개변수 추론에 미치는 영향을 조사하는 것.
• ODE 기반 통계적 추론에서 독립적이고 동일하게 분포된(IID) 정규잡음이라는 기본 가정을 도전하는 것.
• 모델 적합도에서 지속적인 잡음을 탐지하기 위한 진단 워크플로우를 개발하는 것.
• 자기상관을 고려한 대체 잡음 모델—ARMA 및 상태공간 시간시계열(STS)—를 제안하고 평가하는 것.
• 자기상관을 忽시할 경우 매개변수 추정치의 불확실성이 인위적으로 감소한다는 것을 보여주는 것.

제안 방법

• 측정 오차를 IID 정규잡음이 아닌 자기상관 과정으로 모델링하는 통계적 프레임워크를 제안한다.
• 자기상관이 존재할 경우 IID 잡음 가정이 잘못되었을 때 정밀도 추정치가 왜 과대평가되는지 분석적으로 정량화하기 위해 피셔 정보 행렬을 사용한다.
• 시간적으로 상관된 측정 오차를 ODE 기반 추론에 적용하기 위해 ARMA(1,1) 및 AR(1) 모델을 사용한다.
• 복잡하고 지속적인 잡음 구조를 융통성 있게 표현하기 위해 상태공간 시간시계열(STS) 모델을 활용한다.
• 잔차 분석 기반의 진단 워크플로우를 개발하여 모델 적합도에서 자기상관을 탐지한다.
• 심장 생리학 및 전기화학 분야의 실제 데이터를 사용하여 IID, AR(1), ARMA(1,1) 잡음 모델 간의 매개변수 추론 성능을 비교한다.

실험 결과

연구 질문

• RQ1 생물학적 시스템의 ODE 모델에서 IID 정규잡음 가정이 매개변수 추정치에 편향 또는 과신을 초래하는가?
• RQ2 측정 오차의 원인이 되는 측정 불완전성은 잔차에서 얼마나 강한 자기상관을 유도하는가? 이는 통계적 추론에 어떤 영향을 미치는가?
• RQ3 ARMA 및 상태공간 시간시계열(STS) 모델은 ODE 기반 시스템에서 지속적인 측정 잡음을 효과적으로 포착할 수 있는가?
• RQ4 측정 오차의 자기상관은 피셔 정보 행렬을 어떻게 왜곡하며, 이는 매개변수 추정치의 정밀도에 어떤 영향을 미치는가?
• RQ5 ODE 모델 적합도에서 자기상관 측정 잡음을 신뢰성 있게 탐지할 수 있는 지표는 무엇인가?

주요 결과

• 지속적인 측정 불완전성으로 인한 자기상관 측정 잡음은 IID 잡음 가정이 있을 경우 매개변수 추정치의 불확실성이 인위적으로 감소하게 한다.
• 피셔 정보 행렬 분석 결과, IID 잡음 가정이 잘못되었을 경우 실제 매개변수 추정치의 분산이 최대 30%까지 과소평가됨을 시뮬레이션 및 실제 데이터에서 확인함.
• 잔차 기반 진단 분석은 특히 전기화학 및 심장 생리학과 같이 고시간 해상도를 가진 시스템에서 모델 적합도의 자기상관을 성공적으로 탐지함.
• IID 모델 대비 ARMA(1,1) 및 AR(1) 잡음 모델은 매개변수 추정치의 과신을 줄이며, 더 높은 강건성을 확보함.
• ARMA(1,1) 및 AR(1) 모델 하에서의 사후분포는 IID 모델 대비 더 넓은 신뢰구간을 보이며, 더 현실적인 불확실성을 반영함.
• 본 연구는 저차수 ARMA 또는 단순한 STS 잡음 모델이 ODE 추론에서 과적합을 완화하고 일반화 성능을 향상시키기 위해 IID 잡음 모델보다 바람직하다는 것을 보여줌.