[論文レビュー] Adaptively stacking ensembles for influenza forecasting with incomplete data

Thomas McAndrew, Nicholas G Reich|arXiv (Cornell University)|Jul 26, 2019

Influenza Virus Research Studies参考文献 53被引用数 4

ひとこと要約

本稿では、インフルエンザ様症候群（ILI）のための適応的アンサンブル予測手法を提案する。この手法は、現在の季節のデータのみを用いて週次でモデル重みを動的に更新し、ノイズが多く改訂が頻発する監視データに対処するため、正則化されたベイズ的事前分布を導入することで予測を安定化させる。適応的アンサンブルは等重みアンサンブルを上回り、長年の歴史的データで訓練された静的アンサンブルと同等の性能を示し、公衆衛生対応に実用的でリアルタイムな予測ツールを提供する。

ABSTRACT

Seasonal influenza infects between 10 and 50 million people in the United States every year, overburdening hospitals during weeks of peak incidence. Named by the CDC as an important tool to fight the damaging effects of these epidemics, accurate forecasts of influenza and influenza-like illness (ILI) forewarn public health officials about when, and where, seasonal influenza outbreaks will hit hardest. Multi-model ensemble forecasts---weighted combinations of component models---have shown positive results in forecasting. Ensemble forecasts of influenza outbreaks have been static, training on all past ILI data at the beginning of a season, generating a set of optimal weights for each model in the ensemble, and keeping the weights constant. We propose an adaptive ensemble forecast that (i) changes model weights week-by-week throughout the influenza season, (ii) only needs the current influenza season's data to make predictions, and (iii) by introducing a prior distribution, shrinks weights toward the reference equal weighting approach and adjusts for observed ILI percentages that are subject to future revisions. We investigate the prior's ability to impact adaptive ensemble performance and, after finding an optimal prior via a cross-validation approach, compare our adaptive ensemble's performance to equal-weighted and static ensembles. Applied to forecasts of short-term ILI incidence at the regional and national level in the US, our adaptive model outperforms a naive equal-weighted ensemble, and has similar or better performance to the static ensemble, which requires multiple years of training data. Adaptive ensembles are able to quickly train and forecast during epidemics, and provide a practical tool to public health officials looking for forecasts that can conform to unique features of a specific season.

研究の動機と目的

• 静的アンサンブル予測の限界（長期間の歴史的訓練データと固定された重みに依存）を克服し、週次で重みを更新するリアルタイムで適応可能な手法を開発すること。
• 活発なインフルエンザ流行期に一般的に見られるノイズが多く改訂が頻発するILI監視データに対して、予測のロバスト性を向上させること。
• アンサンブル重みの安定化と予測性能の向上に寄与する事前分布による正則化の影響を評価すること。
• 複数の季節、地域、予測期間において、適応的アンサンブルと等重みアンサンブル、静的アンサンブルの性能を比較すること。
• 多様なインフルエンザシーズンと予測ターゲットに一般化可能な最適な正則化の事前分布を同定すること。

提案手法

• 本手法は、複数のコンポーネントモデルの予測をベイズ的線形プールで統合し、最近の季節内ILI観測に基づいて時変する重みを推定する。
• アンサンブル重みを等重みに近づけるために、事前分布を導入し、ノイズや改訂の多いデータへの過剰適合を低減する。
• 正則化の強度は、季節をまたいで交差検証により最適化され、主な評価指標としてログスコアが用いられる。
• 適応的アンサンブルは、各インフルエンザシーズン中に週次で訓練・更新され、過去の季節データに依存せず、現在の季節のデータのみを用いる。
• ランダム効果回帰モデルを用いて、季節、地域、予測期間をまたいで、適応的アンサンブル、等重みアンサンブル、静的アンサンブルのログスコア差を比較する。
• 最適な事前分布は8%であり、季節をまたいで25百分位数が6%、75百分位数が8.25%である。

実験結果

リサーチクエスチョン

• RQ1 現在の季節のデータのみを用いて週次で重みを更新する適応的アンサンブルが、歴史的データで訓練された静的アンサンブルを上回る性能を発揮できるか？
• RQ2 事前分布による正則化が、適応的および静的アンサンブル予測の性能に与える影響は何か？
• RQ3 改訂が頻発するILI監視データに対処するため、アンサンブル重みを安定化させる最適な正則化の事前分布強度は何か？
• RQ4 大幅に少ない訓練データを用いても、適応的アンサンブルは静的アンサンブルと同等の性能を達成できるか？
• RQ5 多様なインフルエンザシーズンと地域にわたって予測精度を最大化する一貫性があり一般化可能な事前分布値（例：約8%）が存在するか？

主な発見

• 適応的アンサンブルは、すべての季節、地域、予測期間において等重みアンサンブルを著しく上回り、2011/2012年のログスコア改善の中央値は0.13（95%信頼区間：0.08, 0.19）であった。
• 適応的アンサンブルは静的アンサンブルと同等の性能を達成し、大多数の季節と地域でログスコアの絶対差が小さかった（例：β = 0.02、95%信頼区間：-0.04, 0.08）。
• 正則化の最適な事前分布は約8%であり、季節をまたいで25百分位数が6%、75百分位数が8.25%であった。
• 正則化は、適応的および静的アンサンブルの両方の性能を向上させたが、データ不足とノイズの多い状況では適応的モデルがより大きな恩恵を受けていた。
• 適応的アンサンブルは事前分布8%で最高の性能を発揮し、この値は一貫してログスコアのピーク性能を示すため、季節をまたいで良好に一般化された値であった。
• パーミュテーション検定により、適応的アンサンブルが等重みアンサンブルを上回る性能向上は、2012/2013年を除くすべての季節で統計的に有意（p < 0.01）であると確認された。