[논문 리뷰] FedLoc: Federated Learning Framework for Data-Driven Cooperative Localization and Location Data Processing

Feng Yin, Zhidi Lin외 6명|arXiv (Cornell University)|2020. 03. 08.

Indoor and Outdoor Localization Technologies참고 문헌 118인용 수 14

한 줄 요약

FedLoc는 개인정보 보호를 위한 데이터 기반 협업 위치 기반 서비스 및 위치 데이터 처리를 위한 피어드 학습 프레임워크를 제안한다. 이는 이동 사용자가 원시 위치 데이터를 공유하지 않고도 고정밀도의 위치 기반 모델을 협업적으로 훈련시킬 수 있도록 한다. 깊이 있는 신경망과 가우시안 프로세스를 활용한 분산 훈련을 통해 FedLoc는 개인정보 보호를 유지하면서도 위치 기반 및 시공간 예측에서 중심화된 성능에 가까운 성능을 달성한다.

ABSTRACT

In this overview paper, data-driven learning model-based cooperative localization and location data processing are considered, in line with the emerging machine learning and big data methods. We first review (1) state-of-the-art algorithms in the context of federated learning, (2) two widely used learning models, namely the deep neural network model and the Gaussian process model, and (3) various distributed model hyper-parameter optimization schemes. Then, we demonstrate various practical use cases that are summarized from a mixture of standard, newly published, and unpublished works, which cover a broad range of location services, including collaborative static localization/fingerprinting, indoor target tracking, outdoor navigation using low-sampling GPS, and spatio-temporal wireless traffic data modeling and prediction. Experimental results show that near centralized data fitting- and prediction performance can be achieved by a set of collaborative mobile users running distributed algorithms. All the surveyed use cases fall under our newly proposed Federated Localization (FedLoc) framework, which targets on collaboratively building accurate location services without sacrificing user privacy, in particular, sensitive information related to their geographical trajectories. Future research directions are also discussed at the end of this paper.

연구 동기 및 목표

• 복잡한 환경(예: 실내 쇼핑몰, 도심 지역)에서 데이터 기반 모델을 사용해 고정밀도 위치 기반을 달성하는 데 도전하는 것.
• 특히 민감한 지리적 경로 정보와 관련하여 사용자 개인정보를 훼손하지 않으면서도 이동 사용자 간 협업 모델 훈련을 가능하게 하는 것.
• 분산된 비독립 동일 분포(Non-i.i.d.) 데이터에서 대규모 위치 기반 모델을 훈련할 때 발생하는 계산 및 통신 병목 현상을 해결하는 것.
• 협업 위치 기반, 목표 추적, 시공간 교통 예측 등 새로운 응용 분야로 피어드 학습을 확장하는 것.
• 분산 최적화, 개인정보 보호 기법, 실세계 구현 고려 사항을 통합한 통합 프레임워크를 제공하는 것.

제안 방법

• 이동 사용자가 수집한 현지 데이터를 활용해 글로벌 모델을 훈련시키는 피어드 학습을 활용하여 원시 데이터 전송을 방지한다.
• 복잡한 위치 기반 및 시공간 패턴을 모델링하기 위해 깊이 있는 신경망(DNNs)과 가우시안 프로세스(GPs)를 핵심 학습 모델로 사용한다.
• 비독립 동일 분포 데이터 및 사용자 간 데이터 크기의 불균형을 다루기 위해 하이퍼파ram터 튜닝을 적용한 분산 최적화 기법을 적용한다.
• 모델 정밀도를 8비트로 낮추고 signSGD를 활용해 기울기 전송을 최소화함으로써 통신 부하를 감소시킨다.
• 악성 또는 신뢰할 수 없는 사용자 기여로 인한 위험을 완화하기 위해 강력한 분산 최적화 및 추정 기법을 통합한다.
• 현지 데이터가 부족한 경우를 대비해 표준 매개변수 모델을 활용한 데이터 증강 기법을 사용해 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 협업 위치 기반 시스템에서 사용자 개인정보를 보호하면서도 중심화된 성능에 근접한 정밀도의 위치 기반 성능을 달성할 수 있는가?
• RQ2 DNN 및 GPs와 같은 분산 학습 모델은 실내 지문 기반 추적 및 실외 GPS 추적과 같은 실세계 위치 기반 서비스에 효과적으로 적용될 수 있는가?
• RQ3 피어드 위치 기반에서 통신 효율성, 데이터 이질성, 모델 수렴성의 핵심 과제는 무엇이며, 이를 어떻게 해결할 수 있는가?
• RQ4 다양한 모odal 데이터(예: 무선 및 시각적 측정값 통합)를 처리할 수 있도록 피어드 학습을 어떻게 확장할 수 있는가?
• RQ5 사회적 그래프 구조와 그래프 기반 모델은 피어드 위치 기반에서 참가자 참여도 및 성능 향상에 어떤 역할을 할 수 있는가?

주요 결과

• FedLoc는 실내 지문 기반, 실외 GPS 추적, 무선 트래픽 예측 등 다양한 응용 분야에서 데이터 피팅 및 예측 성능이 중심화된 성능에 근접함을 입증하였다.
• 8비트 정밀도로 모델 정밀도를 낮추고 signSGD를 적용함으로써 통신 부하를 최대 32배까지 감소시켰으며, 성능 저하 없이도 가능했다.
• 악성 또는 오류가 있는 업데이트를 기여하는 일부 사용자가 존재하더라도 강력한 분산 최적화 기법이 모델 정확도를 유지하는 데 기여하였다.
• 현지 데이터가 제한적이거나 희박한 경우 표준 매개변수 모델을 활용한 데이터 증강 기법이 모델 일반화 능력을 향상시켰다.
• 무선 및 시각적 측정값을 통합함으로써 특히 도전적인 추적 환경에서 위치 기반 정확도와 견고성이 향상되었다.
• 5G 기술, 엣지 AI 칩, 고정밀도 지도의 발전을 바탕으로 프레임워크는 확장 가능하고 실용적이며, 실세계 구현이 가능하다.