[논문 리뷰] Fast Out-of-Sample Predictions for Bayesian Hierarchical Models of Latent Health States

Aaron Fisher, R. Yates Coley외 1명|arXiv (Cornell University)|2015. 10. 29.

Statistical Methods and Inference참고 문헌 10인용 수 3

한 줄 요약

이 논문은 베이지안 계층 모형에서 잠재 건강 상태의 빠른 실시간 샘플 외 예측을 가능하게 하기 위해 중요도 표본 추출(IS)을 제안한다. 특히 전립선암 위험 평가에 적용한다. 사전에 계산된 인구 수준의 사후분포를 활용함으로써, IS는 느린 배치 MCMC와 1.3% 이내의 루트 평균 제곱 오차(RMSD)로 높은 일치도를 달성하면서도, 환자당 계산 시간을 수 시간에서 1~10초로 단축시켜, 임상에서의 의사결정 지원을 가능하게 한다.

ABSTRACT

Hierarchical Bayesian models can be especially useful in precision medicine settings, where clinicians are interested in estimating the patient-level latent variables associated with an individual's current health state and its trajectory. Such models are often fit using batch Markov Chain Monte Carlo (MCMC). However, the slow speed of batch MCMC computation makes it difficult to implement in clinical settings, where immediate latent variable estimates are often desired in response to new patient data. In this report, we discuss how importance sampling (IS) can instead be used to obtain fast, in-clinic estimates of patient-level latent variables. We apply IS to the hierarchical model proposed in Coley et al (2015) for predicting an individual's underlying prostate cancer state. We find that latent variable estimates via IS can typically be obtained in 1-10 seconds per person and have high agreement with estimates coming from longer-running batch MCMC methods. Alternative options for out-of-sample fitting and online updating are also discussed.

연구 동기 및 목표

• 실시간 환자 수준의 잠재 변수 추정이 필요한 임상 환경에서 배치 MCMC의 계산 병목 현상을 해결하기 위해.
• 신규 환자 데이터가 도착했을 때 개별 건강 상태 예측을 업데이트하기 위한 확장 가능하고 저지연의 방법을 개발하기 위해.
• 반복적인 전체 모델 재적합 또는 서버 간 통신 없이도 임상에서 정밀의료 모델을 구현할 수 있도록 하기 위해.
• 잠재 건강 상태에 대한 샘플 외 예측에서 MCMC의 대체로 중요도 표본 추출(IS)의 정확도와 효율성을 평가하기 위해.
• 주기적인 MCMC 재적합과 함께 IS를 결합하여, 인구 수준의 매개변수 정확도를 유지하면서도 실시간 개별 예측이 가능하도록 하기 위해.

제안 방법

• 이전 MCMC 실행에서 확보한 인구 수준의 매개변수 사후분포만을 사용하여, 환자 수준의 잠재 변수(예: 공격성 있는 vs. 경과성 전립선암 상태)의 사후 추정치를 생성하기 위해 중요도 표본 추출을 적용한다.
• 개별 수준의 매개변수 $ b_i $ 를 위한 후보 값을 생성하기 위해, 사후 추출치 $ \theta^{(j)} $ 를 중심으로 하는 제안 분포 $ g(b_i | \theta^{(j)}) $ 를 사용한다.
• 후보 값의 다양성을 높이기 위해, 500,000개의 사후 표본에서 각각 10개의 값을 추출하여 환자당 500만 개의 제안을 생성한다.
• 비정규화된 사후 밀도를 사용해 제안치를 가중치를 부여함으로써, 유효 표본 크기(effective sample size)를 산정하고, 잠재 상태의 사후 확률을 추정한다.
• 유효 표본 크기가 1,000을 초과할 때까지 제안 수를 늘리는 동적 제안 전략을 구현하여 정확도와 속도 사이의 균형을 맞춘다.
• IS 기반 위험 추정치를 전체 배치 MCMC 추정치와 비교하여 일치도와 계산 효율성을 평가한다.

실험 결과

연구 질문

• RQ1 중요도 표본 추출(IS)이 최소한의 계산 오버헤드로 베이지안 계층 모형에서 잠재 건강 상태의 정확한 샘플 외 추정치를 생성할 수 있는가?
• RQ2 루트 평균 제곱 오차(RMSD)와 최대 절대 차이 측면에서, IS 기반 예측의 정확도는 배치 MCMC 추정치와 어떻게 비교되는가?
• RQ3 IS에서 제안 표본 수를 변화시킬 때 계산 속도와 추정 정확도 사이의 상충 관계는 어떻게 되는가?
• RQ4 중요도 표본 추출(IS)은 주기적인 MCMC 재적합과 효과적으로 통합될 수 있는가? 이는 장기적인 모델 정확도를 유지하면서도 실시간 예측을 가능하게 하는가?
• RQ5 IS에서 유효 표본 크기와 예측 오차 사이의 관계는 어떻게 되며, 이는 이론적 기대와 일치하는가?

주요 결과

• 동적 중요도 표본 추출 방법은 IS와 MCMC 추정치 사이의 루트 평균 제곱 차이(rMSD)가 확률 척도에서 1.3%로 매우 높은 일치도를 달성했다.
• IS와 MCMC 추정치 간의 최대 절대 차이는 5.9%였으며, 99%의 환자에서 이 차이가 4.5% 이하였다.
• 고정된 제안 수를 사용한 경우, 50,000개의 제안을 사용한 방법은 rMSD가 1.6%였고 최대 차이는 16.6%였지만, 500만 개의 제안을 사용한 방법은 rMSD가 1.3%로 낮아지고 최대 차이는 4.8%로 감소했다.
• 가장 효율적인 IS 접근법에서 환자당 계산 시간은 1.4~2.8초였으며, 전체 MCMC 재적합에 비해 수 시간에서 크게 단축되었다.
• 동적 제안 방법은 환자당 중앙값 계산 시간이 2.3~4.6초로, 고정된 50,000개 제안 방법보다 빠르고 정확도 면에서도 뛰어났다.
• 거부 표본 추출은 IS보다 성능이 열 劣했으며, rMSD가 1.6%였고, 이는 IS가 이 응용 분야에서 더 효과적임을 시사한다.