[論文レビュー] Bayesian LSTMs in medicine

Jos van der Westhuizen, Joan Lasenby|arXiv (Cornell University)|Jun 5, 2017

Time Series Analysis and Forecasting参考文献 41被引用数 15

ひとこと要約

本稿では、医療時系列分類の精度向上と不確実性推定を目的として、モンテカルロドロップアウトを用いたベイジアンLSTMを提案する。テスト時にMCドロップアウトを適用することで、予測クラスと信頼性スコアの両方を出力し、心電図、心音図、新生児ICUデータを含む4つの医療時系列データセットにおいて、精度の向上と信頼性の高い不確実性評価を実証した。

ABSTRACT

The medical field stands to see significant benefits from the recent advances in deep learning. Knowing the uncertainty in the decision made by any machine learning algorithm is of utmost importance for medical practitioners. This study demonstrates the utility of using Bayesian LSTMs for classification of medical time series. Four medical time series datasets are used to show the accuracy improvement Bayesian LSTMs provide over standard LSTMs. Moreover, we show cherry-picked examples of confident and uncertain classifications of the medical time series. With simple modifications of the common practice for deep learning, significant improvements can be made for the medical practitioner and patient.

研究の動機と目的

• 医療時系列分類に用いられるディープラーニングモデルにおける不確実性評価の欠如に対処すること。
• 臨床的意思決定においてモデルの信頼性が重要な医療応用における分類精度の向上。
• 標準的なディープラーニングパイプラインへの最小限の変更で、ベイジアンディープラーニング手法を実装可能であることを示すこと。
• ベイジアンLSTMからの不確実性推定が、臨床的に再レビューが必要な曇りや異常な信号を特定するのを支援できることを示すこと。
• 解像度や臨床的意義にばらつきのある多様な医療時系列データセットにおいて、本手法の有効性を検証すること。

提案手法

• 推論時における近似的なベイジアン推論のため、標準的なLSTMにモンテカルロ（MC）ドロップアウトを適用し、ドロップアウトを有効にした複数回の順方向伝搬を実行する。
• ドロップアウトを有効にした複数回の順方向伝搬における予測の分散を計算することで、予測の不確実性を推定する。
• 訓練時と推論時で同じドロップアウト率を適用し、標準的なドロップアウトで用いられる重みスケーリングを回避する。
• 同じアーキテクチャとハイパーパrameterを用いて標準LSTMとベイジアンLSTMを訓練し、推論時でのドロップアウト適用の有無を唯一の差とする。
• MCサンプル間の予測分散から得られるベイジアン信頼スコアを用い、信頼性の高い予測と不確実な予測を区別する。
• MNIST（ベースラインとして）、PhysioNet 2016（PCG）、MIT-BIH（ECG）、NICU/TBI（縦断的ICUデータ）の4つの医療時系列データセットで性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 MCドロップアウトを用いたベイジアンLSTMは、標準LSTMと比較して医療時系列分類の精度を向上させることができるか？
• RQ2 ベイジアンLSTMからの不確実性推定は、臨床的レビューが必要なノイズの多いまたは異常な信号を信頼性を持って特定できるか？
• RQ3 TBIやNICU信号のような低解像度の縦断的医療時系列データにおいて、ベイジアンアプローチは性能を維持または向上させることができるか？
• RQ4 キープ確率（1 - ドロップアウト率）の選択が、LSTMの精度と不確実性推定にどのように影響を与えるか？
• RQ5 MCドロップアウトは、リアルタイムの臨床現場で予測結果と信頼性指標を提供するために効果的に利用可能か？

主な発見

• ベイジアンLSTMは、4つの医療時系列データセットすべてで分類精度を向上させ、特にTBIデータセットで相対的に高い向上を示した（標準LSTMと比較して95.21% vs. 94.49%）。
• PhysioNet 2016チャレンジデータセットでは、ベイジアンLSTMが79.8%の精度を達成し、標準LSTMの77.8%から向上した。感度（0.707 vs. 0.675）と特異度（0.889 vs. 0.880）の両方においても向上が確認された。
• モデルは信頼性の高い不確実性推定を示した。視覚的比較により、ノイズの多いまたは異常な信号では一貫して不確実性が高くなることが確認された。
• キープ確率が0.8以上の場合がLSTM訓練において最適であることが判明した。キープ確率が0.5前後の場合、収束が悪く過学習が生じた。
• 標準モデルが信頼性スコアを提供しない低解像度の縦断的データ（例：NICUやTBI）に対しても、ベイジアンアプローチは意味のある不確実性推定を提供した。
• MCドロップアウトは計算的に実行可能で並列化可能であり、標準推論よりもコストが増加するものの、臨床現場でのオンライン推論を可能にした。