[논문 리뷰] Federated Learning for Water Consumption Forecasting in Smart Cities

Mohammed El Hanjri, Hibatallah Kabbaj외 2명|arXiv (Cornell University)|2023. 01. 30.

Smart Parking Systems Research인용 수 4

한 줄 요약

이 논문은 스마트 시티에서 단기 수자원 소비 예측을 위해 피어드 학습(FL) 기반 접근법을 제안한다. 엣지 디바이스(예: 스마트 미터)에서 로컬로 장기 단기 기억(LSTM) 모델을 훈련시어 사용자 프라이버시를 보장하고 네트워크 부하를 줄인다. 이 방법은 중앙집중식 모델보다 높은 예측 정확도를 달성하면서도 데이터 전송을 최소화하고 민감한 소비 패턴을 보호하기 위해 탈중앙화된 훈련과 모델 집계를 구현한다.

ABSTRACT

Water consumption remains a major concern among the world's future challenges. For applications like load monitoring and demand response, deep learning models are trained using enormous volumes of consumption data in smart cities. On the one hand, the information used is private. For instance, the precise information gathered by a smart meter that is a part of the system's IoT architecture at a consumer's residence may give details about the appliances and, consequently, the consumer's behavior at home. On the other hand, enormous data volumes with sufficient variation are needed for the deep learning models to be trained properly. This paper introduces a novel model for water consumption prediction in smart cities while preserving privacy regarding monthly consumption. The proposed approach leverages federated learning (FL) as a machine learning paradigm designed to train a machine learning model in a distributed manner while avoiding sharing the users data with a central training facility. In addition, this approach is promising to reduce the overhead utilization through decreasing the frequency of data transmission between the users and the central entity. Extensive simulation illustrate that the proposed approach shows an enhancement in predicting water consumption for different households.

연구 동기 및 목표

• 개인 가정의 데이터를 중앙집중적으로 수집하지 않음으로써 스마트 시티 수자원 소비 예측에서의 프라이버시 문제를 해결하기 위해.
• 국소화된 개인 맞춤형 딥 러닝 모델을 사용하여 개별 가정의 예측 정확도를 향상시키기 위해.
• 엣지 기반 피어드 학습을 통해 데이터 전송을 최소화함으로써 네트워크 오버헤드를 줄이기 위해.
• 정확도와 통신 효율성 측면에서 중앙집중식 훈련과 비교하여 FL의 성능을 평가하기 위해.
• 실시간으로 개인정보 보호가 가능한 수요 예측을 위한 엣지 기반 FL의 실현 가능성을 입증하기 위해.

제안 방법

• 시스템은 중앙 서버에 원시 소비 데이터를 공유하지 않고도 다수의 엣지 디바이스(예: 스마트 미터)에서 글로벌 LSTM 모델을 훈련시키는 피어드 학습 프레임워크를 사용한다.
• 각 클라이언트(가정)는 자신의 월간 수자원 소비 데이터를 기반으로 글로벌 모델을 로컬에서 개인 맞춤형 업데이트로 훈련시킨다.
• 모델 가중치는 중앙 서버로 전송되며, 여기서 평균화되어 글로벌 모델을 업데이트한다. 이 과정은 데이터 탈중앙화를 통해 프라이버시를 보장한다.
• 수렴할 때까지 다수의 라운드에 걸쳐 반복되며, 다양한 국소 데이터를 통해 글로벌 모델의 정확도가 향상된다.
• 이 방법은 엣지 컴퓨팅 인프라(예: 홈 그리드 엣지 기술)를 활용하여 디바이스 내 훈련을 가능하게 하고 지연을 줄인다.
• 네트워크 부하를 중심($Q_C$)과 피어드($Q_F$) 훈련에 대한 수식을 사용해 측정하며, 통신 효율성 향상을 측정하기 위한 보상 지표 $R = 1 - Q_F/Q_C$를 사용한다.

Figure 1: Network architecture and components

실험 결과

연구 질문

• RQ1 피어드 학습은 중앙집중식 딥 러닝 모델과 비교해 단기 수자원 소비 예측 정확도를 향상시킬 수 있는가?
• RQ2 국소 모델 개인 맞춤화는 개별 가정의 예측 성능 향상에 얼마나 기여하는가?
• RQ3 스마트 워터 시스템에서 피어드 학습은 중앙집중식 훈련에 비해 네트워크 부하를 얼마나 줄이는가?
• RQ4 거주지 수자원 소비 예측에서 탈중앙화된 훈련은 데이터 프라이버시에 어떤 영향을 미치는가?
• RQ5 엣지 기반 피어드 학습은 스마트 시티에서 실시간으로 확장 가능한 수요 예측을 위해 실질적으로 구현 가능한가?

주요 결과

• 제안된 피어드 학습 방법은 특히 개별 가정에 대한 개인 맞춤형 예측에서 중앙집중식 글로벌 모델보다 높은 예측 정확도를 달성했다.
• 클라이언트의 특정 데이터 기반 재훈련이 예측 성능 향상에 크게 기여했으며, 이는 BLD 04(2018–2020)에서 예측값과 실제 소비량 간의 높은 일치도로 입증되었다.
• 네트워크 부하 감소 보상 $R$는 양수였으며, 이는 피어드 학습이 중앙집중식 훈련 대비 데이터 전송을 측정 가능한 수준으로 줄였음을 나타낸다.
• 모델 업데이트는 일시적이며 서버에 영구 저장되지 않아 프라이버시 위험을 최소화하고 사용자 신원의 역공학적 분석을 방지한다.
• 제한된 데이터를 가진 신규 사용자에게도 글로벌 모델이 타당한 기준 예측을 제공하여 강건성과 확장성을 입증했다.
• 엣지 컴퓨팅 통합 덕분에 디바이스 내 훈련이 가능해져, 스마트 워터 인fra에서 실생활 IoT 디바이스에의 구현 가능성이 입증되었다.

Figure 2: The distribution of water consumption data in building 04 (BLD 04). (HCF; Hundred-Cubic Foot)