[논문 리뷰] Deep Kalman Filters

Rahul G. Krishnan, Uri Shalit외 1명|arXiv (Cornell University)|2015. 11. 16.

Machine Learning in Healthcare참고 문헌 27인용 수 142

한 줄 요약

이 논문은 순차적 데이터를 위한 비선형 상태공간 모델을 학습하기 위해 딥 네ural 네트워크를 사용하는 변분 추론 기반 프레임워크인 딥 칼만 필터를 소개한다. 이는 복잡하고 노이즈가 많은 환경에서 효과적인 반성적 추론을 가능하게 하며, 합성 '힐링 MNIST' 데이터와 실제 전자 의료 기록(EHR)을 통해 검증되었다. 결과적으로 항당뇨 약물이 당화혈색소(A1c)와 포도당 수치를 시뮬레이션된 간섭 조건에서 당뇨병 환자에서 유의미하게 감소시킴을 보여주었다.

ABSTRACT

Kalman Filters are one of the most influential models of time-varying phenomena. They admit an intuitive probabilistic interpretation, have a simple functional form, and enjoy widespread adoption in a variety of disciplines. Motivated by recent variational methods for learning deep generative models, we introduce a unified algorithm to efficiently learn a broad spectrum of Kalman filters. Of particular interest is the use of temporal generative models for counterfactual inference. We investigate the efficacy of such models for counterfactual inference, and to that end we introduce the "Healing MNIST" dataset where long-term structure, noise and actions are applied to sequences of digits. We show the efficacy of our method for modeling this dataset. We further show how our model can be used for counterfactual inference for patients, based on electronic health record data of 8,000 patients over 4.5 years.

연구 동기 및 목표

• 딥 네트워크와 변분 추론을 사용하여 복잡하고 비선형 칼만 필터를 학습하는 통합적이고 확장 가능한 방법을 개발하는 것.
• 특히 환자당 한 번의 간섭 결과만 관찰 가능한 의료 환경에서 종단적 데이터에서 반성적 추론을 가능하게 하는 것.
• 노이즈가 많고 고차원적인 EHR 데이터를 사용하여 실제 간섭(예: 약물 처방) 하에서 환자 상태의 잠재적 변화를 모델링하는 것.
• 다양한 인식 모델과 모델 아키텍처가 순차 모델링 및 반성적 예측 성능에 미치는 영향을 평가하는 것.
• 연속적 상태공간 모델이 종단적 의료 데이터에서 인과 추론에 어떻게 활용될 수 있는지 보여주는 것.

제안 방법

• 순차 관측치의 로그우도에 대한 하한을 최적화하기 위해 변분 추론 프레임워크를 제안하여 딥 비선형 칼만 필터의 엔드 투 엔드 학습을 가능하게 함.
• 딥 네트워크를 사용하여 전이 함수 Gα, 방출 함수 Fκ, 관측 우도를 매개변수화함으로써 민감하고 비선형적인 동역학을 가능하게 함.
• 인식 모델(예: q-BRNN)을 사용하여 잠재 상태에 대한 사후 분포를 추론함으로써 효율적인 근사 추론을 가능하게 함.
• 펄의 do-연산자 적용을 위해 반성적 샘플링 중에 실험 지표 변수를 1로 설정함으로써 간섭 시나리오를 시뮬레이션함.
• 방출 노이즈에 대해 고정된 대각 행렬 Sβ를 사용하여 추론을 단순화하면서도 모델의 유연성을 유지함.
• 모델을 합성 데이터(힐링 MNIST)와 8,000명의 당뇨병 환자에 대한 4.5년간의 실제 EHR 데이터에서 학습함.

실험 결과

연구 질문

• RQ1 딥 네트워크는 고차원 순차 데이터에서 복잡하고 비선형적인 시간 동역학을 모델링하기 위해 칼만 필터와 효과적으로 조합될 수 있는가?
• RQ2 다른 간섭에 대한 관측된 결과가 없는 상황에서 제안된 모델이 반성적 추론을 얼마나 잘 수행할 수 있는가?
• RQ3 모델은 예를 들어 기울여지거나 노이즈가 첨부된 MNIST 숫자와 같은 변형된 순차 데이터에서 장거리 의존성과 구조적 불변성을 잘 포착하는가?
• RQ4 실제 EHR 데이터를 사용하여 항당뇨 약물의 환자 결과(예: A1c 및 포도당 수치)에 대한 인과 효과를 정확하게 추정할 수 있는가?
• RQ5 선형 대비 비선형 전이/방출 함수를 갖는 다양한 모델 아키텍처는 순차 모델링 및 반성적 예측 성능에 어떤 영향을 미치는가?

주요 결과

• 비선형 전이 함수와 비선형 방출 함수를 갖는 모델가 가장 높은 테스트 로그우도를 기록하여 선형 및 비선형 방출 함수만을 갖는 변종보다 뛰어난 성능을 보였다.
• 힐링 MNIST 데이터셋에서 모델은 적용된 동작(예: 회전, 노이즈)이 숫자 시퀀스에 미치는 단기 및 장기적 영향을 성공적으로 포착하였다.
• EHR 환경에서 항당뇨 약물(메트포르민)을 투여받지 않은 환자는 간섭 후 A1c 수치가 8% 이상일 가능성이 유의미하게 높았으며, 이는 반성적 샘플링을 통해 확인되었다.
• 메트포르민 투여 조건에서 포도당 수치가 높은 환자의 비율은 약 20%에서 '투여 없음' 조건에서는 약 60%로 증가하였다.
• 노이즈가 많고 고차원적인 EHR 데이터 하에서 잠재 상태를 추론하는 데 있어 모델의 강건성이 입증되었으며, 신뢰할 수 있는 반성적 비교를 가능하게 하였다.
• 비모수적 사후 분포(q-BRNN)의 사용은 정확한 사후 근사와 다양한 간섭 조건 하에서 효과적인 전방 샘플링을 가능하게 하였다.