[논문 리뷰] Emerging Trends in Federated Learning: From Model Fusion to Federated X Learning

Shaoxiong Ji, Yue Tan외 7명|arXiv (Cornell University)|2021. 02. 25.

Privacy-Preserving Technologies in Data참고 문헌 229인용 수 19

한 줄 요약

이 논문은 통계적 이종성과 강건성 향상을 위해 모델 융합 기법—예를 들어 적응형 집계, 정규화, 군집화, 베이지안 방법—을 중심으로 연합 학습의 새로운 추세를 조사한다. 또한 메타학습, 전이학습, 비지도학습과 같은 패러다임과 연합 학습을 융합하여 '연합 X 학습'을 제안하며, 개인정보 보호, 확장성, 개인화된 AI 시스템 분야에서의 핵심 과제와 향후 방향성을 규명하는 통합 분류 체계를 제공한다.

ABSTRACT

Federated learning is a new learning paradigm that decouples data collection and model training via multi-party computation and model aggregation. As a flexible learning setting, federated learning has the potential to integrate with other learning frameworks. We conduct a focused survey of federated learning in conjunction with other learning algorithms. Specifically, we explore various learning algorithms to improve the vanilla federated averaging algorithm and review model fusion methods such as adaptive aggregation, regularization, clustered methods, and Bayesian methods. Following the emerging trends, we also discuss federated learning in the intersection with other learning paradigms, termed federated X learning, where X includes multitask learning, meta-learning, transfer learning, unsupervised learning, and reinforcement learning. In addition to reviewing state-of-the-art studies, this paper also identifies key challenges and applications in this field, while also highlighting promising future directions.

연구 동기 및 목표

• 비독립identical 분포(Non-IID) 클라이언트 데이터 분포로 인한 연합 학습에서의 통계적 이종성 해결.
• 적응형 가중치, 정규화, 군집화와 같은 고급 융합 기법을 통해 모델 집계의 강건성 향상.
• 메타학습, 전이학습, 비지도학습 등의 다양한 학습 패러다임과 연합 학습을 융합하여 실생활 적용 가능성을 넓히기 위한 탐색.
• 라벨 부족, 통신 효율성, 클라이언트 공정성과 같은 연합 환경에서의 핵심 과제 규명.
• 모델 융합 원리와 다중 패러다임 통합 기반의 새로운 연합 학습 분류 체계 제안.

제안 방법

• 모델 융합 방법을 적응형/주의 집계, 정규화, 군집화, 베이지안 방법의 네 하위군으로 분류.
• 모델 융합 메커니즘과 다른 학습 패러다임(예: 연합 메타학습, 연합 전이학습)과의 통합 기반으로 통합된 연합 학습 분류 체계 도입.
• 데이터 품질, 모델 일관성, 이력 성능 등의 지표를 활용해 클라이언트 기여도 가중치를 분석하여 집계의 강건성 향상.
• 비지도 및 준지도 기법을 적용해 레이블 부족 문제를 완화하고, 비라벨 데이터와 가짜 레이블을 활용.
• 그래프 기반 방법(예: FedGP)을 활용해 노이즈가 많은 레이블을 수정하고 의료 영상 응용 분야에서의 기울기 이탈을 줄임.
• 모델 보간법과 메타학습을 통한 디바이스 수준의 개인화를 제안하여 개인정보를 훼손하지 않으면서도 개별 클라이언트의 성능 향상 달성.

실험 결과

연구 질문

• RQ1 통계적 이종성과 비독립identical 분포 데이터 분포에 대해 연합 모델 집계를 어떻게 더 강건하게 만들 수 있는가?
• RQ2 수렴성과 정확도 향상에 가장 효과적인 모델 융합 기법—예를 들어 적응형 가중치, 정규화, 군집화—는 무엇인가?
• RQ3 메타학습, 전이학습, 비지도학습과 같은 다른 학습 패러다임과 연합 학습을 어떻게 효과적으로 융합할 수 있는가?
• RQ4 레이블 부족, 통신 비용, 클라이언트 공정성과 관련된 연합 학습의 핵심 과제는 무엇인가?
• RQ5 중앙 집중적 재학습이 필요 없이 데이터 프라이버시를 해치지 않고 디바이스 수준의 개인화를 어떻게 달성할 수 있는가?

주요 결과

• FedAtt 및 FedAMP와 같은 적응형 및 주의 집계 방법은 모델 품질과 데이터 특성에 기반해 클라이언트 기여도를 동적으로 가중함으로써 모델 정확도를 크게 향상시킨다.
• 정규화 및 군집화 기반 집계는 모델 발산을 줄이고, 특히 높은 통계적 이종성이 존재하는 상황에서 비독립identical 데이터에서 성능 향상에 기여한다.
• Federated Meta-Learning 및 Federated Transfer Learning와 같은 연합 X 학습 프레임워크는 라벨이 제한된 클라이언트 간 빠른 적응과 더 나은 일반화를 가능하게 한다.
• FedGP와 같은 그래프 기반 방법은 그래프 유도 손실 함수를 통해 노이즈가 많은 레이블을 정제하고 기울기 이탈을 줄여 의료 영상 분야에서 강건성을 향상시킨다.
• 모델 보간법과 메타학습을 통한 디바이스 수준의 개인화로 클라이언트는 자신의 비공개 데이터에서 더 높은 정확도를 달성할 수 있으며 동시에 글로벌 모델의 유용성도 유지할 수 있다.
• 비지도 및 준지도 학습 기법은 레이블 부족 문제를 완화하는 데 필수적이며, 레이블링이 비용이 많이 들거나 불가능한 실세계 환경에서 효과적인 학습을 가능하게 한다.