[論文レビュー] When in Doubt: Neural Non-Parametric Uncertainty Quantification for Epidemic Forecasting

Harshavardhan Kamarthi, Lingkai Kong+3 more|arXiv (Cornell University)|Jun 7, 2021

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

本論文では、確率的潜在変数と動的相関グラフを用いて非パラメトリックな方法で不確実性を定量化する神経関数的プロセスモデル、EpiFNPを提案する。このモデルは、最新の最先端モデルと比較して、精度（最大2.5倍）とキャリブレーション（最大2.4倍）で顕著に優れており、現在の傾向と類似する過去の季節と関連付けることで、解釈可能な予測を可能にする。

ABSTRACT

Accurate and trustworthy epidemic forecasting is an important problem that has impact on public health planning and disease mitigation. Most existing epidemic forecasting models disregard uncertainty quantification, resulting in mis-calibrated predictions. Recent works in deep neural models for uncertainty-aware time-series forecasting also have several limitations; e.g. it is difficult to specify meaningful priors in Bayesian NNs, while methods like deep ensembling are computationally expensive in practice. In this paper, we fill this important gap. We model the forecasting task as a probabilistic generative process and propose a functional neural process model called EPIFNP, which directly models the probability density of the forecast value. EPIFNP leverages a dynamic stochastic correlation graph to model the correlations between sequences in a non-parametric way, and designs different stochastic latent variables to capture functional uncertainty from different perspectives. Our extensive experiments in a real-time flu forecasting setting show that EPIFNP significantly outperforms previous state-of-the-art models in both accuracy and calibration metrics, up to 2.5x in accuracy and 2.4x in calibration. Additionally, due to properties of its generative process,EPIFNP learns the relations between the current season and similar patterns of historical seasons,enabling interpretable forecasts. Beyond epidemic forecasting, the EPIFNP can be of independent interest for advancing principled uncertainty quantification in deep sequential models for predictive analytics

研究の動機と目的

• 疫病予測のためのディープラーニングモデルにおける信頼性のある不確実性定量化の欠如に対処すること。
• 計算が複雑なベイズ推論や高コストなアンサンブルに依存せずに、良好にキャリブレートされた確率的予測を生成する手法を開発すること。
• 現在のトレンドと類似する過去の疫病パターンを特定することで、解釈可能な予測を可能にすること。
• 非パラメトリックなディープ生成アプローチを用いて、時系列データにおける複雑な時系列依存性と関数的不確実性をモデル化すること。
• 2019/20 H1N1とCOVID-19の同時流行など、新しいまたは特異な疫病シナリオにおける耐性を高めること。

提案手法

• EpiFNPは、疫病時系列を関数空間における確率的生成プロセスとしてモデル化するためのニューラル関数的プロセスフレームワークを採用する。
• 現在の疫病系列と過去の疫病系列の関係を動的にモデル化するために、確率的データ相関グラフ（SDCG）を用いる。
• 個別の確率的潜在変数が局所的およびグローバルな関数的不確実性を捉え、キャリブレーションと耐性の向上に寄与する。
• 推論時に関連する過去の季節に注目するためのアテンションメカニズムを活用することで、解釈可能な予測を実現する。
• 深層時系列モデルと非パラメトリックベイズ手法を統合し、パラメトリックな仮定なしに予測分布を直接モデル化する。
• モデルはエンドツーエンドでトレーニングされ、負の対数尤度を最小化するとともに、良好にキャリブレートされた不確実性推定を促進する。

実験結果

リサーチクエスチョン

• RQ1 既存のディープラーニングおよび統計的ベースラインと比較して、非パラメトリックなディープ生成モデルが、リアルタイムの疫病予測において優れた精度とキャリブレーションを達成できるか。
• RQ2 計算が困難な事前分布や高コストなアンサンブルに依存せずに、疫病予測における不確実性を効果的に定量化できるか。
• RQ3 モデルの不確実性推定は、類似する過去の疫病パターンを特定することで意味的に解釈可能になるか。
• RQ4 2019/20 H1N1とCOVID-19の同時流行のような前例のない疫病事象に対して、モデルはどのように反応するか。
• RQ5 確率的データ相関グラフ（SDCG）は、解釈可能で信頼性のある予測解釈をどの程度可能にするか。

主な発見

• EpiFNPは、リアルタイムのインフルエンザ予測において、最先端のモデルと比較して最大2.5倍の高い精度と最大2.4倍の優れたキャリブレーションを達成する。
• 2019/20インフルエンザシーズンの前例のない第3波を、95％信頼区間が真の値を完全にカバーする形で信頼性を持って捉える唯一のモデルである。
• SDCGにおける平均エッジ確率が低下するピーク週には、モデルの不確実性推定が上昇しており、予測分散の増加を反映している。
• EpiFNPは、2015/16シーズンにおいて、観察されたパターンと一致する2005年、2006年、2010年といった最も関連性の高い過去の季節を自動で特定する。
• SDCGにより、現在の予測を類似する過去の疫病経路と結びつけることで、予測の解釈可能性が向上し、信頼性と透明性が高まる。
• GP、RNP、その他のベースラインと比較して、EpiFNPは特に新しいまたは異常なシナリオにおいて、予測精度とキャリブレーションの両面で優れている。