[論文レビュー] Deep Kalman Filters

Rahul G. Krishnan, Uri Shalit+1 more|arXiv (Cornell University)|Nov 16, 2015

Machine Learning in Healthcare参考文献 27被引用数 142

ひとこと要約

本稿では、変分推論に基づくフレームワークとして、深層ニューラルネットワークを用いて非線形な状態空間モデルを学習するためのDeep Kalman Filtersを提案する。この手法は、複雑でノイズの多い環境下でも効果的な反事後的推論を可能にし、合成的な「Healing MNIST」データと実際の電子的健康記録（EHR）データを用いて検証された。その結果、糖尿病患者に対する抗糖尿病薬投与がA1cおよびグルコース値を有意に低下させることを示した。

ABSTRACT

Kalman Filters are one of the most influential models of time-varying phenomena. They admit an intuitive probabilistic interpretation, have a simple functional form, and enjoy widespread adoption in a variety of disciplines. Motivated by recent variational methods for learning deep generative models, we introduce a unified algorithm to efficiently learn a broad spectrum of Kalman filters. Of particular interest is the use of temporal generative models for counterfactual inference. We investigate the efficacy of such models for counterfactual inference, and to that end we introduce the "Healing MNIST" dataset where long-term structure, noise and actions are applied to sequences of digits. We show the efficacy of our method for modeling this dataset. We further show how our model can be used for counterfactual inference for patients, based on electronic health record data of 8,000 patients over 4.5 years.

研究の動機と目的

• 深層ニューラルネットワークと変分推論を用いて、複雑で非線形なカルマンフィルタを統合的かつスケーラブルに学習するための手法の開発。
• 特に1人1人の患者に対して1つの介入結果しか観測されない医療分野における縦断的データにおいて、反事後的推論を可能にすること。
• ノイズが多く高次元なEHRデータを用いて、実世界の介入（例：薬剤処方）下での患者状態の潜在的推移をモデル化すること。
• 認識モデルやモデルアーキテクチャの違いが、時系列モデリングおよび反事後的予測性能に与える影響を評価すること。
• 連続的状態空間モデルが縦断的医療データにおける因果推論にどのように有用であるかを示すこと。

提案手法

• 時系列観測の対数尤度の下界を最適化するための変分推論フレームワークを提案し、深層非線形カルマンフィルタのエンドツーエンド学習を可能にする。
• 深層ニューラルネットワークを用いて遷移関数Gα、放出関数Fκ、観測尤度をパラメータ化し、柔軟で非線形な動的挙動を可能にする。
• 認識モデル（例：q-BRNN）を用いて潜在状態の事後分布を推論し、効率的な近似推論を実現する。
• ピアールのdo演算子を適用する際、反事後的サンプリング時にラベルインジケータ変数を1に設定することで、介入シナリオをシミュレートする。
• 放出ノイズに固定された対角行列Sβを用い、推論を単純化しながらもモデルの柔軟性を維持する。
• 合成データ（Healing MNIST）および8,000人の糖尿病患者の4.5年間にわたる実際のEHRデータを用いてモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、高次元の時系列データにおける複雑で非線形な時間的ダイナミクスを、カルマンフィルタと効果的に組み合わせてモデル化できるか？
• RQ2 代替介入の結果が観測されていない状況下でも、提案されたモデルは反事後的推論をどれほどうまく行えるか？
• RQ3 モデルは、回転やノイズが加えられたMNISTデジットのような、摂動を加えた時系列データにおける長距離依存性や構造的不変性を捉えられるか？
• RQ4 実際のEHRデータを用いて、抗糖尿病薬の投与がA1cやグルコース値といった患者の結果に与える因果的影響を正確に推定できるか？
• RQ5 線形と非線形の遷移／放出関数を用いた異なるモデルアーキテクチャは、時系列モデリングおよび反事後的予測性能にどのように影響を与えるか？

主な発見

• 非線形遷移関数と非線形放出関数を有するモデルが、最も高いテスト尤度を達成し、線形モデルや非線形放出関数のみの変種を上回った。
• Healing MNISTデータセットにおいて、モデルは回転やノイズといった操作の短距離および長距離への影響を効果的に捉えた。
• EHR環境では、抗糖尿病薬（メトホルミン）を投与されていない患者は、介入後、A1cが8%を超える可能性が著しく高く、グルコース値も高くなった。
• メトホルミン投与の有無にかかわらず、グルコース値が高くなる患者の割合は、「投与なし」条件では約20%から約60%に上昇した。
• ノイズが多く高次元なEHRデータ下でも、潜在状態の推論が安定しており、信頼性の高い反事後的比較が可能になった。
• パrametricな事後分布（q-BRNN）の使用により、正確な事後分布の近似と、異なる介入条件下での効果的な前向きサンプリングが実現された。