[논문 리뷰] Gaussian process emulation for discontinuous response surfaces with applications for cardiac electrophysiology models

Sanmitra Ghosh, David J. Gavaghan외 1명|arXiv (Cornell University)|2018. 05. 25.

Fault Detection and Control Systems참고 문헌 35인용 수 8

한 줄 요약

이 논문은 심장 전기생리학 모델에서 분기 현상으로 인해 행동전위 지속시간(APD)에 급격한 변화가 발생하는 비연속적 응답 표면을 위한 이중단계 가우시안 프로세스(GP) 에미ュ레이터를 제안한다. 이는 GP 분류기를 사용해 비연속성 경계를 탐지하고, 이러한 영역 내에서 GP 회귀를 제약함으로써 전체 시뮬레이션의 10%에 불과한 계산 비용으로 정확한 불확실성 정량화를 가능하게 하며, 100,000개의 테스트 포인트에 대해 1분 이내의 추론 시간을 확보한다.

ABSTRACT

Mathematical models of biological systems are beginning to be used for safety-critical applications, where large numbers of repeated model evaluations are required to perform uncertainty quantification and sensitivity analysis. Most of these models are nonlinear both in variables and parameters/inputs which has two consequences. First, analytic solutions are rarely available so repeated evaluation of these models by numerically solving differential equations incurs a significant computational burden. Second, many models undergo bifurcations in behaviour as parameters are varied. As a result, simulation outputs often contain discontinuities as we change parameter values and move through parameter/input space. Statistical emulators such as Gaussian processes are frequently used to reduce the computational cost of uncertainty quantification, but discontinuities render a standard Gaussian process emulation approach unsuitable as these emulators assume a smooth and continuous response to changes in parameter values. In this article, we propose a novel two-step method for building a Gaussian Process emulator for models with discontinuous response surfaces. We first use a Gaussian Process classifier to detect boundaries of discontinuities and then constrain the Gaussian Process emulation of the response surface within these boundaries. We introduce a novel `certainty metric' to guide active learning for a multi-class probabilistic classifier. We apply the new classifier to simulations of drug action on a cardiac electrophysiology model, to propagate our uncertainty in a drug's action through to predictions of changes to the cardiac action potential. The proposed two-step active learning method significantly reduces the computational cost of emulating models that undergo multiple bifurcations.

연구 동기 및 목표

• 분기 현상으로 인해 역학적 특성상 비연속적인 응답 표면을 가지는 심장 전기생리학 모델을 에미유레이트하는 데 도전하는 것.
• 안전이 중요한 생물학적 모델에서 불확실성 정량화 및 민감도 분석의 계산 부담을 줄이는 것.
• 매개변수 공간 전반에서 출력 값(예: APD)이 급격히 변화하더라도 정확한 통계적 에미ュ레이터를 개발하는 것.
• 불확실성 경계 탐지에 효과적으로 활용할 수 있는 확률적 측정 기반의 새로운 주도 학습 기법을 도입하는 것.
• 실험적 약물 스크리닝 데이터로부터 전체 세포 전기생리학 예측으로의 확장 가능한 불확실성 전파를 가능하게 하는 것.

제안 방법

• 이중단계 프레임워크: 첫째, 새로운 확률적 신뢰도 측정 기반 주도 학습을 활용해 다중 클래스 GP 분류기가 매개변수 공간 내 비연속성 경계를 탐지한다.
• 신뢰도 측정은 분류기의 신뢰도를 정량화하며, 경계 탐지의 정확도를 높일 수 있도록 다음 샘플링 위치를 안내한다.
• 식별된 각 영역 내에서 희소 GP 회귀 모델(FITC 근사 사용)을 통해 APD 응답 표면을 에미유레이트한다.
• 주도 학습은 불확실한 경계 근처의 샘플링을 우선시하여 시뮬레이터 평가 횟수를 줄인다.
• 이 방법은 두 단계 모두에서 불확실성 정량화를 활용한 확률적 분류와 GP 회귀를 통합한다.
• 작은 수의 시뮬레이터 실행 결과를 바탕으로 훈련된 에미유레이터는 대규모 매개변수 공간 전반에서 APD를 효율적으로 예측할 수 있다.

실험 결과

연구 질문

• RQ1 분기 현상으로 인해 행동전위 지속시간(APD)에 급격한 변화가 발생하는 심장 전기생리학 모델의 비연속적 응답 표면을 통계적 에미유레이터가 정확하게 모델링할 수 있는가?
• RQ2 신뢰도 측정 기반 주도 학습이 고차원 매개변수 공간 내 경계 탐지의 효율성을 어떻게 향상시킬 수 있는가?
• RQ3 불확실성 정량화를 위한 전체 시뮬레이션 대비 이중단계 GP 에미유레이터의 계산 비용과 예측 정확도는 어떠한가?
• RQ4 제안된 방법은 유사한 분기 행동을 보이는 다른 생물학적 지표나 생물물리 모델로 확장 가능한가?
• RQ5 확률적 GP 분류기의 사용이 분기점 근처의 수치 오차에 대해 강건성을 향상시키는 데 기여하는가?

주요 결과

• 이중단계 GP 에미유레이터는 100,000개의 테스트 포인트로 구성된 테스트 세트에서 높은 예측 정확도를 달성하였으며, 전체 시뮬레이션 비용의 약 10%에 불과한 계산 비용을 기록했다.
• FITC 근사를 사용한 희소 GP 근사로 전체 테스트 세트에 대한 예측 추론 시간이 1분 이내였다.
• 신뢰도 측정 기반 주도 학습 기법은 시뮬레이터 평가 횟수를 크게 감소시켰다.
• EP 추론을 사용한 GP 분류기는 라플라스 근사와 같은 대안 방법보다 더 높은 정확도를 보였으며, 계산 비용이 다소 높은 편이었다.
• 제안된 방법은 O’Hara 모델에서 다양한 약물 차단 매개변수에 따라 변하는 APD 90 응답 표면의 비연속성을 성공적으로 포착하였다.
• 이 방법은 분기와 비연속적 반응을 보이는 다른 생물학적 지표 및 생물물리 모델로 일반화 가능하다.