[논문 리뷰] Federated Learning in Mobile Edge Networks: A Comprehensive Survey

Wei Yang Bryan Lim, Nguyen Cong Luong외 6명|arXiv (Cornell University)|2019. 09. 26.

Privacy-Preserving Technologies in Data참고 문헌 202인용 수 144

한 줄 요약

이 설문은 모바일 엣지 네트워크를 위한 Federated Learning (FL)을 리뷰하며 FL의 기초, 도전과제, 해결책, 엣지 최적화를 위한 응용, 프라이버시, 보안, 미래 연구 방향에 대해 다룬다.

ABSTRACT

In recent years, mobile devices are equipped with increasingly advanced sensing and computing capabilities. Coupled with advancements in Deep Learning (DL), this opens up countless possibilities for meaningful applications. Traditional cloudbased Machine Learning (ML) approaches require the data to be centralized in a cloud server or data center. However, this results in critical issues related to unacceptable latency and communication inefficiency. To this end, Mobile Edge Computing (MEC) has been proposed to bring intelligence closer to the edge, where data is produced. However, conventional enabling technologies for ML at mobile edge networks still require personal data to be shared with external parties, e.g., edge servers. Recently, in light of increasingly stringent data privacy legislations and growing privacy concerns, the concept of Federated Learning (FL) has been introduced. In FL, end devices use their local data to train an ML model required by the server. The end devices then send the model updates rather than raw data to the server for aggregation. FL can serve as an enabling technology in mobile edge networks since it enables the collaborative training of an ML model and also enables DL for mobile edge network optimization. However, in a large-scale and complex mobile edge network, heterogeneous devices with varying constraints are involved. This raises challenges of communication costs, resource allocation, and privacy and security in the implementation of FL at scale. In this survey, we begin with an introduction to the background and fundamentals of FL. Then, we highlight the aforementioned challenges of FL implementation and review existing solutions. Furthermore, we present the applications of FL for mobile edge network optimization. Finally, we discuss the important challenges and future research directions in FL

연구 동기 및 목표

• 에지에서의 협력적 ML 학습을 위한 프라이버시 보존 패러다임으로 FL을 고무한다.
• 모바일 엣지 네트워크와 관련된 FL의 기초, 프로토콜 및 프레임워크를 요약한다.
• FL에서의 통신 효율성, 이질성, 프라이버시/보안의 도전과제를 검토한다.
• 모바일 엣지 네트워크 최적화 및 관리를 위한 FL 응용을 탐구한다.
• MEC를 위한 FL의 개방적 도전과제 및 미래 연구 방향을 개관한다.

제안 방법

• FedAvg를 중심 알고리즘으로 포함하여, 로컬 학습과 전역 집계를 통한 FL 학습 과정을 설명한다.
• 비 IID 데이터의 통계적 도전과제와 제안된 해결책(예: 데이터 공유, 데이터 증강, 재균형) 및 다중 작업 학습 접근법을 논의한다.
• 참가자 선택, 구성, 보고 단계 등을 포함한 FL 프로토콜 및 프레임워크 고려사항을 제시한다.
• FL 내 통신 비용 최적화와 자원 할당 전략을 검토한다.
• 프라이버시 및 보안 문제와 잠재적 완화 기술을 요약한다.
• 자원 관리 및 오프로드와 같은 모바일 엣지 네트워크 최적화 작업에 대한 FL 응용을 조사한다.

실험 결과

연구 질문

• RQ1 모바일 엣지 네트워크에서의 Federated Learning의 핵심 기초 및 워크플로우는 무엇인가?
• RQ2 이질적인 엣지 디바이스에 대해 대규모로 배포될 때 FL에서 어떤 도전과제가 발생하며 어떤 해결책이 존재하는가?
• RQ3 개인정보 및 보안을 보장하면서 FL을 어떻게 모바일 엣지 네트워크 최적화에 활용할 수 있는가?
• RQ4 MEC 환경에서 FL의 개방된 연구 방향과 미래 도전과제는 무엇인가?
• RQ5 엣지 인프라스트럭처에서 확장 가능한 FL 구현을 가능하게 하는 프레임워크 및 실용적 고려사항은 무엇인가?

주요 결과

• FL은 원시 데이터가 디바이스에 남아 있는 상태에서 협력적 모델 학습을 가능하게 하여 데이터 전송과 지연을 감소시킨다.
• 참여자 간 비 IID 데이터는 정확도와 수렴성에 도전과제를 제기하며, 데이터 공유, 증강 또는 다중작업 학습 기반 개인화와 같은 기법이 필요하다.
• FedAvg는 기초적 집계 방법이며 이질성, 수렴성, 개인화 등을 다루는 확장(FedProx, MOCHA, FEDPER 등)이 있다.
• 통신 효율성 및 디바이스 이질성은 여전히 핵심 과제로, 프로토콜 수준의 해결책과 자원 인식 학습 전략을 촉진한다.
• FL은 셀 연결, 계산 오프로드, 차량 네트워크 관리 등의 작업을 포함한 모바일 엣지 네트워크 최적화를 위한 강력한 활성화 기술로서 잠재력을 가지며, 프라이버시 및 보안 고려사항을 제기한다.