[論文レビュー] Collaborative City Digital Twin For Covid-19 Pandemic: A Federated Learning Solution

Junjie Pang, Jianbo Li+3 more|arXiv (Cornell University)|Nov 5, 2020

Privacy-Preserving Technologies in Data参考文献 16被引用数 9

ひとこと要約

本論文は、COVID-19パンデミック対応計画の向上を目的として、複数の都市が共同でグローバル予測モデルを訓練しつつ、局所的なデータプライバシーを保持できる、フェデレーテッドラーニングベースの共同都市デジタルツインフレームワークを提案する。この手法は、フェデレーテッドアベレージ（FedAvg）を活用して個々の都市デジタルツインからのインサイトを統合し、生データを共有せずに、さまざまな対応計画下での感染トレンド予測の正確性を顕著に向上させる。

ABSTRACT

In this work, we propose a collaborative city digital twin based on FL, a novel paradigm that allowing multiple city DT to share the local strategy and status in a timely manner. In particular, an FL central server manages the local updates of multiple collaborators (city DT), provides a global model which is trained in multiple iterations at different city DT systems, until the model gains the correlations between various response plan and infection trend. That means, a collaborative city DT paradigm based on FL techniques can obtain knowledge and patterns from multiple DTs, and eventually establish a `global view' for city crisis management. Meanwhile, it also helps to improve each city digital twin selves by consolidating other DT's respective data without violating privacy rules. To validate the proposed solution, we take COVID-19 pandemic as a case study. The experimental results on the real dataset with various response plan validate our proposed solution and demonstrate the superior performance.

研究の動機と目的

• 緊急事態であるCOVID-19のようなパンデミック対応計画における都市レベルのデータスパarsityとプライバシー課題に対処すること。
• 機微な局所データを露呈せずに、複数の都市デジタルツイン間での協働学習を可能にすること。
• スケーラブルでプライバシーを守るフレームワークを開発し、フェデレーテッドラーニングを用いて感染トレンドの予測モデリングを強化すること。
• 米国州レベルの実際の疫学的および政策データセットを用いて、提案フレームワークの有効性を検証すること。

提案手法

• 時間的ダイナミクスをモデル化するため、3層のGRUエンコーダと3層のGRUデコーダを備えたSeq2Seqディープラーニングアーキテクチャを採用する。
• フェデレーテッドアベレージ（FedAvg）を、複数の都市デジタルツインからの局所的モデル更新を統合してグローバルモデルを形成するための集約アルゴリズムとして用いる。
• 各都市デジタルツインは、1-of-Kエンコーディングを用いた対応措置（例：自宅待機命令、マスク着用義務）の表現に基づき、自らのデータセットで局所的に学習を行う。
• 時間的パターン認識を向上させるために、変動性を低減する目的で7日間の移動平均フィルタを用いて疫学的データを平滑化する。
• フェデレーテッドラーニングプロトコルを実装するため、PySyftフレームワークを用い、安全なモデル集約によりプライバシーを確保する。
• モデルのパフォーマンスは平均二乗誤差（MSE）を用いて評価され、学習はPyTorchで実施される。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングに基づく共同都市デジタルツインフレームワークは、孤立した都市モデルと比較して、COVID-19感染トレンドの予測精度を向上させることができるか？
• RQ2 参加する都市デジタルツインの数が、グローバルフェデレーテッドモデルのパフォーマンスにどのように影響するか？
• RQ3 フェデレーテッドラーニングは、データプライバシーを守りつつ、都市のパンデミック対応モデリングにおけるデータスパarsityをどの程度軽減できるか？
• RQ4 本フレームワークは、多様な対応措置（例：渡航制限、マスク政策）が感染トレンドに与える影響をどの程度的確に捉えることができるか？

主な発見

• フェデレーテッドラーニングベースの都市デジタルツインモデルは、22州にわたる米国における非フェデレーテッドモデルと比較して顕著に低い予測損失を達成し、感染トレンド予測における優れた性能を示した。
• 協働に参加する都市デジタルツインの数が増加するにつれて、個々の都市モデルの予測誤差が低下し、協働学習による一般化性能の向上が確認された。
• フェデレーテッドラーニングで学習したモデルは、限られた局所データでも高い精度を維持でき、パンデミック初期段階におけるデータスパarsity問題を効果的に解決した。
• 移動平均フィルタの使用により、時間的パターンの検出が向上し、データの変動性に対するモデルのロバスト性が向上した。
• 図7のスチールブルーのベースライン曲線は、単一都市モデルが協力都市数の増加に関わらず変化しないのに対し、濃いオранジ色のフェデレーテッド曲線は一貫した性能向上を示しており、協働の価値を裏付けた。
• 実験結果は、提案フレームワークがデータ漏洩を伴わずに都市間での知識共有を可能にし、プライバシーに配慮した都市危機管理に適していることを検証した。