[논문 리뷰] Minimax Estimation for Personalized Federated Learning: An Alternative between FedAvg and Local Training?

Shuxiao Chen, Qinqing Zheng외 2명|arXiv (Cornell University)|2021. 03. 02.

Privacy-Preserving Technologies in Data참고 문헌 70인용 수 11

한 줄 요약

이 논문은 데이터 이질성 하에서 개인화된 플러더레이티드 학습을 분석하기 위해 최소최대 프레임워크를 제안하며, 이는 다음의 대안 정리(Alternative Theorem)를 드러낸다: 데이터 이질성이 낮을 경우 FedAvg가 최소최대 최적이고, 높을 경우 순수한 로컬 학습이 최적이다. 핵심 통찰은 개인화가 데이터 이질성의 임계값에 따라 두 기초 알고리즘 중 하나로 축소된다는 것이다.

ABSTRACT

A widely recognized difficulty in federated learning arises from the statistical heterogeneity among clients: local datasets often originate from distinct yet not entirely unrelated probability distributions, and personalization is, therefore, necessary to achieve optimal results from each individual's perspective. In this paper, we show how the excess risks of personalized federated learning using a smooth, strongly convex loss depend on data heterogeneity from a minimax point of view, with a focus on the FedAvg algorithm (McMahan et al., 2017) and pure local training (i.e., clients solve empirical risk minimization problems on their local datasets without any communication). Our main result reveals an approximate alternative between these two baseline algorithms for federated learning: the former algorithm is minimax rate optimal over a collection of instances when data heterogeneity is small, whereas the latter is minimax rate optimal when data heterogeneity is large, and the threshold is sharp up to a constant. As an implication, our results show that from a worst-case point of view, a dichotomous strategy that makes a choice between the two baseline algorithms is rate-optimal. Another implication is that the popular FedAvg following by local fine tuning strategy is also minimax optimal under additional regularity conditions. Our analysis relies on a new notion of algorithmic stability that takes into account the nature of federated learning.

연구 동기 및 목표

• 클라이언트의 데이터 분포가 상당히 다를 수 있는 플러더레이티드 학습에서의 통계적 이질성 문제를 다루기 위해.
• 부드럽고 강력한 콘벡스 손실 함수 하에서 개인화된 모델에 대해 FedAvg 또는 로컬 학습이 최소최대 최적일 조건을 규명하기 위해.
• 통신( FedAvg) 또는 로컬 최적화(통신 없음)가 최적일 수 있는 영역을 분리하는 이론적 임계값을 수립하기 위해.
• 분산형, 이질적인 환경에서 플러더레이티드 학습에 특화된 새로운 알고리즘 안정성 개념을 개발하기 위해.
• 클라이언트별로 이질적인 데이터에 적응하는 복잡한 문제를 두 기초 알고리즘 간의 단순한 이元 결정으로 축소하기 위해.

제안 방법

• 개인화된 플러더레이티드 학습의 평가 지표로 개별화된 초과 위험(IER)을 정식화한다.
• 개인화된 학습 알고리즘의 최악의 성능을 분석하기 위해 최소최대 프레임워크를 도입한다.
• 클라이언트별 데이터 분포와 통신 제약 조건을 고려한 새로운 알고리즘 안정성 개념을 제안한다.
• 손실 함수의 강력한 콘벡스성과 부드러움 성질을 이용해 데이터 이질성에 대한 임계값을 유도한다.
• 이 프레임워크 하에서 FedAvg와 순수한 로컬 학습을 분석하여, 그 최소최대 최적성은 이질성 임계값에 따라 달라짐을 보여준다.
• 프록시 연산자와 기울기 노름 한계를 사용해 고차원, 분산형 환경에서의 수렴성 및 안정성 한계를 유도한다.

실험 결과

연구 질문

• RQ1 개인화된 플러더레이티드 학습에서 FedAvg가 언제 최소최대 최적일 수 있는가?
• RQ2 데이터 이질성이 존재할 경우 순수한 로컬 학습(통신 없음)이 언제 최소최대 최적일 수 있는가?
• RQ3 플러더레이티드 학습에서 개인화 문제를 FedAvg와 로컬 학습 간의 단순한 이원 결정으로 축소시킬 수 있는가?
• RQ4 데이터 이질성이 플러더레이티드 학습 알고리즘의 최소최대 최적성 결정에 어떤 역할을 하는가?
• RQ5 제안된 알고리즘 안정성 개념은 플러더레이티드 학습의 맥락에서 기존 정의와 어떻게 다를 수 있는가?

주요 결과

• FedAvg가 최소최대 최적일 수 있는 데이터 이질성에 대한 임계값이 존재한다.
• 데이터 이질성이 이 임계값을 초과할 경우, 순수한 로컬 학습이 최소최대 최적이며 FedAvg를 능가한다.
• 최소최대 최적 선택은 데이터 이질성 수준에 따라 FedAvg와 로컬 학습 간의 단순한 이원 결정으로 축소된다.
• 이론적 임계값은 손실 함수의 강력한 콘벡스성과 부드러움 성질을 이용해 유도되었으며, 클라이언트별 기울기 노름과 데이터 크기에 의존한다.
• 제안된 알고리즘 안정성 개념은 개인화된 플러더레이티드 학습 환경에서 더 날카운 최소최대 위험 한계를 가능하게 한다.
• 분석 결과, FedAvg의 성능은 높은 이질성 영역에서 심각하게 저하되며, 반면 로컬 학습은 최적성을 유지한다.