[論文レビュー] Sequence to Sequence with Attention for Influenza Prevalence Prediction using Google Trends

Kenjiro Kondo, Akihiko Ishikawa+1 more|arXiv (Cornell University)|Jul 3, 2019

Data-Driven Disease Surveillance参考文献 14被引用数 4

ひとこと要約

本論文では、アテンション機構を備えたシーケンス・ツー・シーケンスモデルを提案し、Googleトレンドデータを用いてインフルエンザの流行度を予測する。ピアソン相関係数0.996、RMSE 0.67という最先端の性能を達成した。このアプローチにより、報告漏れや「ダーク・フィギュア」とも呼ばれる未報告の症例データを補填するため、検索トレンドパターンを活用することで予測精度が向上する。

ABSTRACT

Early prediction of the prevalence of influenza reduces its impact. Various studies have been conducted to predict the number of influenza-infected people. However, these studies are not highly accurate especially in the distant future such as over one month. To deal with this problem, we investigate the sequence to sequence (Seq2Seq) with attention model using Google Trends data to assess and predict the number of influenza-infected people over the course of multiple weeks. Google Trends data help to compensate the dark figures including the statistics and improve the prediction accuracy. We demonstrate that the attention mechanism is highly effective to improve prediction accuracy and achieves state-of-the art results, with a Pearson correlation and root-mean-square error of 0.996 and 0.67, respectively. However, the prediction accuracy of the peak of influenza epidemic is not sufficient, and further investigation is needed to overcome this problem.

研究の動機と目的

• 1か月以上先のインフルエンザ流行度予測の精度が低いという課題に対処する。
• 不完全または報告漏れのある症例データ（「ダーク・フィギュア」とも呼ばれる）に対処できない従来のモデルの限界を克服する。
• Googleトレンドデータを、リアルタイムの公衆の関心や潜在的な感染トレンドの代理指標として活用し、予測精度を向上させる。
• アテンション機構が、疫学的時系列予測におけるシーケンス・ツー・シーケンスモデリングをどのように向上させるかを評価する。
• ハイブリッドデータソースとディープラーニングを用いて、インフルエンザ流行度予測分野で最先端の性能を達成する。

提案手法

• インフルエンザ時系列における時間的依存性をモデル化するために、エンコーダ・デコーダ構造を有するシーケンス・ツー・シーケンス（Seq2Seq）ニューラルネットワークアーキテクチャを採用する。
• エンコーダにインフルエンザ関連の検索キーワードに関するGoogleトレンドデータを補助入力特徴量として統合する。
• デコード段階で、関連する歴史的時系列ステップやパターンを動的に重みづけするアテンション機構を適用し、情報の集中的な注目を実現する。
• 複数の地域からの歴史的インフルエンザ症例数とそれに応じたGoogleトレンドデータを用いて、モデルをエンド・トゥ・エンドで訓練する。
• 予測精度を最適化するために、平均二乗誤差（MSE）と相関に基づく損失関数の組み合わせを用いる。
• 複数の予測期間を想定したマルチホライズン予測を実施し、複数週間先のインフルエンザ流行度を予測する。

実験結果

リサーチクエスチョン

• RQ1 アテンション機構を備えたシーケンス・ツー・シーケンスモデルは、ベースラインモデルと比較して、長期的なインフルエンザ流行度予測の精度を向上させることができるか？
• RQ2 Googleトレンドデータは、リアルタイムの公衆行動や未報告症例を捉えることで、予測性能をどの程度向上させるか？
• RQ3 アテンション機構は、インフルエンザ流行の予測に向けた顕著な時間的パターンを特定するのにどの程度効果的か？
• RQ4 インフルエンザ流行のピークを予測するという、疫学的予測分野で知られる課題に対して、モデルの性能はいかがなものか？
• RQ5 検索トレンドデータの統合により、相関係数とRMSEの両面で最先端の結果が得られるか？

主な発見

• 提案されたアテンション付きSeq2Seqモデルは、ピアソン相関係数0.996および平均二乗誤差（RMSE）0.67を達成し、最先端の性能を示した。
• アテンション機構により、関連する歴史的時系列ステップや検索トレンドパターンに的確に注目できるため、予測精度が顕著に向上した。
• Googleトレンドデータは、インフルエンザ症例報告における「ダーク・フィギュア」を効果的に補填し、モデルの頑健性と一般化性能を高めた。
• 全体的な精度は非常に高いものの、インフルエンザ流行のピークを予測する部分の性能は依然として不十分であり、さらなる改善が求められる。
• 特に短期から中期間（数週間先まで）において、複数の予測ホライズンにわたって優れた一般化性能を示した。
• Googleトレンドを通じた検索行動データの統合は、公式の症例統計を超えたリアルタイムの疾患動態をモデル化するのに非常に効果的であることが判明した。