[논문 리뷰] Collaborative City Digital Twin For Covid-19 Pandemic: A Federated Learning Solution

Junjie Pang, Jianbo Li외 3명|arXiv (Cornell University)|2020. 11. 05.

Privacy-Preserving Technologies in Data참고 문헌 16인용 수 9

한 줄 요약

이 논문은 코로나19 팬데믹 대응 계획을 햖을 때 지역 데이터 기밀을 유지하면서도 여러 도시가 공동으로 글로벌 예측 모델을 훈련시킬 수 있도록 하는 연합 학습 기반 협업 도시 디지털 트윈 프레임워크를 제안한다. 이 방법은 각 도시 디지털 트윈의 통찰을 연합 평균(FedAvg)을 통해 집계하여 원시 데이터를 공유하지 않고도 다양한 대응 계획 하에서 감염 추세 예측 정확도를 크게 향상시킨다.

ABSTRACT

In this work, we propose a collaborative city digital twin based on FL, a novel paradigm that allowing multiple city DT to share the local strategy and status in a timely manner. In particular, an FL central server manages the local updates of multiple collaborators (city DT), provides a global model which is trained in multiple iterations at different city DT systems, until the model gains the correlations between various response plan and infection trend. That means, a collaborative city DT paradigm based on FL techniques can obtain knowledge and patterns from multiple DTs, and eventually establish a `global view' for city crisis management. Meanwhile, it also helps to improve each city digital twin selves by consolidating other DT's respective data without violating privacy rules. To validate the proposed solution, we take COVID-19 pandemic as a case study. The experimental results on the real dataset with various response plan validate our proposed solution and demonstrate the superior performance.

연구 동기 및 목표

• 급격한 위기 상황인 코로나19와 같은 팬데믹 대응 계획에서 도시 수준의 데이터 부족성과 기밀 문제를 해결하기 위해.
• 민감한 지역 데이터를 폭 드러내지 않고도 여러 도시 디지털 트윈 간 협업 학습을 가능하게 하기 위해.
• 확장 가능하고 기밀을 보장하는 프레임워크를 개발하여 연합 학습을 활용해 감염 추세의 예측 모델링을 향상시키기 위해.
• 실제 미국 주 수준의 전염병 및 정책 데이터셋을 사용하여 제안된 프레임워크의 효과성을 검증하기 위해.

제안 방법

• 감염 데이터의 시간적 동역학을 모델링하기 위해 세 층의 GRU 인코더와 세 층의 GRU 디코더를 갖춘 Seq2Seq 딥러닝 아키텍처를 사용한다.
• 지역 모델 업데이트를 여러 도시 디지털 트윈에서 글로벌 모델로 통합하기 위해 연합 평균(FedAvg)을 집계 알고리즘으로 사용한다.
• 각 도시 디지털 트윈은 일괄 인코딩된 대응 조치 표현(예: 집에 머무르기 명령, 마스크 착용 의무화)을 사용하여 자체 데이터셋에서 국지적으로 훈련한다.
• 전염병 데이터의 변동성을 줄이고 시간 패턴 인식을 향상시키기 위해 7일 윈도우를 갖는 이동 평균 필터를 적용한다.
• 기밀 보장을 위해 안전한 모델 집계를 보장하기 위해 PySyft 프레임워크를 사용하여 연합 학습 프로토콜을 구현한다.
• 모델 성능 평가에 평균 제곱 오차(MSE)를 사용하며, 훈련은 PyTorch를 기반으로 수행된다.

실험 결과

연구 질문

• RQ1 연합 학습 기반 협업 도시 디지털 트윈 프레임워크는 고립된 도시 모델 대비 코로나19 감염 추세 예측 정확도를 향상시킬 수 있는가?
• RQ2 참여하는 도시 디지털 트윈의 수가 글로벌 연합 모델 성능에 어떤 영향을 미치는가?
• RQ3 연합 학습은 기밀 보장을 유지하면서 도시 팬데믹 대응 모델링에서 데이터 부족 문제를 얼마나 효과적으로 완화할 수 있는가?
• RQ4 다양한 대응 조치(예: 해외 여행 제한, 마스크 정책)가 감염 추세에 미치는 영향을 제안된 프레임워크가 얼마나 효과적으로 포착하는가?

주요 결과

• 22개 미국 주에서 연합 학습 기반 도시 디지털 트윈 모델은 비연합 모델보다 유의미하게 낮은 예측 손실을 기록하여 감염 추세 예측에서 뛰어난 성능을 보였다.
• 협업에 참여하는 도시 디지털 트윈의 수가 증가할수록 각 도시 모델의 예측 오차가 감소하여 협업 학습을 통한 일반화 능력 향상이 확인되었다.
• 연합 학습을 통해 훈련된 모델는 국소 데이터가 제한된 상태에서도 높은 정확도를 유지하여 팬데믹 초도 단계에서의 데이터 부족 문제를 효과적으로 해결하였다.
• 이동 평균 필터링의 사용은 시간 패턴 탐지 능력을 향상시켜 데이터 변동성에 대한 모델의 강건성을 높였다.
• 그림 7의 철청색 기준 곡선은 단일 도시 모델이 더 많은 협업자 존재에도 불구하고 변화하지 않음을 보여주며, 다크 오ран지 연합 곡선은 일관된 성능 향상을 보여 협업의 가치를 확인한다.
• 실험 결과는 제안된 프레임워크가 데이터 泄露 없이 도시 간 지식 공유를 가능하게 하여 기밀 보장이 필요한 도시 위기 관리에 적합함을 검증하였다.