[논문 리뷰] Adaptive Personalized Federated Learning

Yuyang Deng, Mohammad Mahdi Kamani외 1명|arXiv (Cornell University)|2020. 03. 30.

Privacy-Preserving Technologies in Data참고 문헌 51인용 수 337

한 줄 요약

APFL는 글로벌 모델과 로컬 모델의 혼합으로 각 클라이언트에 개인화된 모델을 학습하며, 적응적 혼합 파라미터와 통신 효율적인 최적화 알고리즘을 사용합니다.

ABSTRACT

Investigation of the degree of personalization in federated learning algorithms has shown that only maximizing the performance of the global model will confine the capacity of the local models to personalize. In this paper, we advocate an adaptive personalized federated learning (APFL) algorithm, where each client will train their local models while contributing to the global model. We derive the generalization bound of mixture of local and global models, and find the optimal mixing parameter. We also propose a communication-efficient optimization method to collaboratively learn the personalized models and analyze its convergence in both smooth strongly convex and nonconvex settings. The extensive experiments demonstrate the effectiveness of our personalization schema, as well as the correctness of established generalization theories.

연구 동기 및 목표

• 클라이언트 간 비 IID 데이터에 대응하기 위한 페더레이티드 러닝에서 개인화 동기를 제시한다.
• 각 클라이언트가 글로벌 모델과 로컬 모델을 결합하는 혼합 모델 형식을 제안한다.
• 혼합 모델의 일반화 경계를 도출하고 혼합 파라미터가 성능에 미치는 영향을 식별한다.
• 개인화와 글로벌 모델을 학습하기 위한 통신 효율적 최적화 방법을 개발한다.
• 경험적 효과를 입증하고 이론적 일반화 결과를 검증한다.

제안 방법

• 개인화를 위한 글로벌 및 로컬 모델의 혼합을 도입: h_alpha_i = alpha_i * h_loc,i^* + (1 - alpha_i) * h_bar^*.
• 혼합 모델의 일반화 경계를 도출하는데 이는 alpha_i, 분포 편차, 데이터 양 m 와 m_i에 의존한다.
• 경계에서 optimal mixing parameter alpha_i^*를 계산하고 이것이 [0,1]에 속함을 보인다.
• 양단계 최적화 제안: 서버는 글로벌 경험적 위험 최소화; 각 클라이언트는 글로벌 모델을 포함한 혼합을 사용해 로컬 위험을 최소화.
• Local Descent APFL 제시: 반복적이고 통신 효율적인 알고리즘으로 로컬 업데이트와 주기적 얻은 gradient 스텝으로 w_i 와 v_i를 업데이트하고, 그 후 서버에서 w_i 평균화.
• 실용적으로 alpha_i를 로컬과 글로벌 분포 간의 거리를 반영하도록 적응적으로 업데이트한다.

실험 결과

연구 질문

• RQ1 비 IID 데이터를 다루기 위해 페데레이드 러닝에서 개인화를 언제, 어떻게 사용하는 것이 좋을까?
• RQ2 글로벌 및 로컬 모델의 혼합이 순수 글로벌 또는 로컬 모델보다 더 나은 지역 일반화를 제공할 수 있는가?
• RQ3 per-client 일반화를 최적화하기 위해 mixing parameter alpha_i를 어떻게 선택하거나 적응시켜야 하는가?
• RQ4 제안된 APFL 최적화 알고리즘의 수렴 특성과 통신 요건은 무엇인가?
• RQ5 실험 결과가 혼합 모델에 대한 이론적 일반화 경계와 일치하는가?

주요 결과

• 개인화 모델 h_alpha_i = alpha_i * h_loc,i^* + (1 - alpha_i) * h_bar^* 는 데이터 이질성 하에서 로컬 일반화를 향상시킬 수 있다.
• 일반화 경계는 혼합 모델의 위험이 alpha_i, 분포 편차, 데이터 양 m 및 m_i에 의존함을 보인다.
• 최적 혼합 파라미터 alpha_i^*는 [0,1]에 있으며 분산도와 샘플 크기에 따라 글로벌 및 로컬 기여를 균형 잡는다.
• 통신 효율적 최적화 방법(Local Descent APFL)이 매끄러운 강한 볼록성과 비정형 설정 모두에 대해 제시되고 분석된다.
• 데이터 다양성이 증가함에 따라 개인화 체계의 우수성이 글로벌 또는 로컬 모델만으로는 달성하기 어렵다는 실험 결과가 이를 뒷받침한다.
• 이론과 실험은 페더레이션 학습에서 적응적 개인화의 유용성을 지지한다.