[論文レビュー] Bayesian deep neural networks for low-cost neurophysiological markers of Alzheimer's disease severity

Wolfgang Fruehwirt, Adam D. Cobb+12 more|arXiv (Cornell University)|Dec 12, 2018

Metabolomics and Mass Spectrometry Studies参考文献 9被引用数 12

ひとこと要約

本研究では、低コストで非侵襲的な定量的EEG（QEEG）マーカーを用いてアルツハイマー病（AD）の重症度を予測するため、ベイジアン深層ニューラルネットワーク（BNNs）を提案する。ハミルトニアンモンテカルロ（HMC）とモンテカルロドロップアウトを用いたベイジアン推論により、大規模な前向きAD-EEGデータセット（n=188）において、優れた回帰性能と信頼性のある不確実性推定が達成された。HMC BNNは、平均二乗誤差（MSE）と予測不確実性の定量化において、MCドロップアウトBNNおよび標準的ニューラルネットワークを著しく上回った。

ABSTRACT

As societies around the world are ageing, the number of Alzheimer's disease (AD) patients is rapidly increasing. To date, no low-cost, non-invasive biomarkers have been established to advance the objectivization of AD diagnosis and progression assessment. Here, we utilize Bayesian neural networks to develop a multivariate predictor for AD severity using a wide range of quantitative EEG (QEEG) markers. The Bayesian treatment of neural networks both automatically controls model complexity and provides a predictive distribution over the target function, giving uncertainty bounds for our regression task. It is therefore well suited to clinical neuroscience, where data sets are typically sparse and practitioners require a precise assessment of the predictive uncertainty. We use data of one of the largest prospective AD EEG trials ever conducted to demonstrate the potential of Bayesian deep learning in this domain, while comparing two distinct Bayesian neural network approaches, i.e., Monte Carlo dropout and Hamiltonian Monte Carlo.

研究の動機と目的

• 定量的EEG（QEEG）特徴を用いて、低コストで非侵襲的な神経生理学的バイオマーカーをアルツハイマー病（AD）の重症度に開発すること。
• 臨床現場におけるAD進行度の評価に、客観的で費用対効果に優れ、非侵襲的なバイオマーカーの不足を解消すること。
• ベイジアンディープラーニングを活用し、希少な臨床データを扱い、モデルの複雑さを制御し、予測不確実性の推定を可能とすること。
• ハミルトニアンモンテカルロ（HMC）とモンテカルロドロップアウト（MCドロップアウト）という2つのベイジアンニューラルネットワーク手法の、MMSEスコア予測における性能を比較すること。
• BNNが、強固で一般化可能で解釈可能なQEEGベースのAD重症度予測子の開発に実用的であることを示すこと。

提案手法

• ベイジアンニューラルネットワーク（BNNs）は、ネットワーク重みにノーマル・プライアを適用し、回帰にはガウス尤度を用いることで、不確実性の定量化を可能にした。
• 2つのベイジアン推論手法を採用した：正確な事後分布サンプリングのためのハミルトニアンモンテカルロ（HMC）と、変分近似のためのモンテカルロドロップアウト。
• モデルは、遅延、複雑性、機能的結合性の分野にまたがる820個のQEEGマーカーを用い、主成分分析を用いて正規化・縮約し、5つの成分に削減した。
• ハイパーパramータチューニングと汎化性能評価のため、ネストド5×5交差検証フレームワークを採用し、ドロップアウト率および重み精度のグリッドサーチを実施した。
• 予測性能は、平均二乗誤差（MSE）および標準化MSE（SMSE）を用いて評価され、SMSEは予測分散で正規化され、不確実性のキャリブレーションを評価するのに用いられた。
• HMC BNNは、重みの事後分布を探索するためのハミルトニアンダイナミクスに基づくサンプリング方式を用いた一方、MCドロップアウトは推論時に確率的正則化を適用し、事後予測分布を近似した。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンディープニューラルネットワークは、低コストで非侵襲的なQEEGマーカーから、アルツハイマー病の重症度を効果的に予測できるか？
• RQ2 ハミルトニアンモンテカルロとモンテカルロドロップアウトBNNは、希少な臨床的EEGデータセットにおいて、予測精度と不確実性定量化の観点でどのように比較されるか？
• RQ3 ベイジアン推論を組み込むことで、臨床神経科学で一般的な小規模データ環境におけるモデルの汎化性能とロバストネスが向上するか？
• RQ4 BNNは、AD進行度の監視における臨床意思決定を支援する信頼性のある予測不確実性推定を提供できるか？
• RQ5 異なるベイジアン推論手法は、小規模で高次元の神経生理学的データセットにおいて、過学習をどの程度軽減できるか？

主な発見

• HMCベイジアンニューラルネットワークは、全テストセットで最小の平均二乗誤差（MSE）12.17を達成し、MCドロップアウトBNN（MSE: 16.67）および標準的ニューラルネットワーク（MSE: 33.71）を著しく上回った。
• HMC BNNは、標準化MSE（SMSE）が124.02であったのに対し、MCドロップアウトBNNは948.16にとどまり、より優れた予測分散推定を示した。
• MCドロップアウトBNNは、一貫して予測不確実性を低く見積もっており、SMSE値が高くなる傾向にあり、これはモード志向の変分推論の既知の限界である。
• すべてのベイジアンモデルは、最適なハイパーパramータ設定において、2層の100ユニットの隠れ層を選択し、一貫したアーキテクチャの安定性を示した。
• HMC BNNの性能優位性は統計的に有意であった（p < 0.05）、特にテストセット5（MSE: 7.65）で顕著に現れ、希少データにおけるロバストネスを示した。
• 本研究では、QEEGベースのAD重症度予測に、HMCおよびMCドロップアウトBNNを初めて応用し、確率的で解釈可能で低コストなバイオマーカーの基盤を確立した。