[논문 리뷰] Personalized Federated Learning with Feature Alignment and Classifier Collaboration

Jian Xu, Xinyi Tong외 1명|arXiv (Cornell University)|2023. 06. 20.

Privacy-Preserving Technologies in Data인용 수 35

한 줄 요약

FedPAC는 명시적 로컬-글로벌 특징 정렬과 최적의 클라이언트 간 분류기 협력을 도입하여 비IID 연합학습에서 개인화된 모델의 성능을 향상시키고 벤치마크 전반에서 정확도를 개선합니다.

ABSTRACT

Data heterogeneity is one of the most challenging issues in federated learning, which motivates a variety of approaches to learn personalized models for participating clients. One such approach in deep neural networks based tasks is employing a shared feature representation and learning a customized classifier head for each client. However, previous works do not utilize the global knowledge during local representation learning and also neglect the fine-grained collaboration between local classifier heads, which limit the model generalization ability. In this work, we conduct explicit local-global feature alignment by leveraging global semantic knowledge for learning a better representation. Moreover, we quantify the benefit of classifier combination for each client as a function of the combining weights and derive an optimization problem for estimating optimal weights. Finally, extensive evaluation results on benchmark datasets with various heterogeneous data scenarios demonstrate the effectiveness of our proposed method. Code is available at https://github.com/JianXu95/FedPAC

연구 동기 및 목표

• 데이터 이질성 하에서 연합학습의 개인화 필요성을 동기 부여한다.
• 로컬 표현을 글로벌 특징 중심으로 정렬하는 프레임워크를 제안한다.
• 클라이언트별 분류기 조합에 최적의 가중치를 부여하는 방법을 도입한다.
• 분류기 융합에서 편향-분산 트레이드오프에 대한 이론적 통찰을 제공한다.
• 벤치마크 데이터셋 전반에 걸쳐 강건성과 효과성을 입증한다.

제안 방법

• 공유 특징 추출기와 개별 클라이언트 분류기 헤드로 네트워크를 분리한다.
• 로컬 특징을 글로벌 클래스 중심으로 일치시키는 정규화 항(특징 정렬)을 도입한다.
• 비음수 가중합으로 합산된 클라이언트별 선형 분류기 조합(alpha-weights)을 제안한다.
• 클라이언트의 예상 테스트 손실을 최소화하는 이차계획(QP) 목표를 제시하여 최적의 α-weights를 도출한다.
• 분류기 협업의 편향-분산 트레이드오프에 대한 분석적 통찰(χ^2 기반의 테스트 손실)을 도출한다.
• 서버 측 특징 집계 및 α-weights 계산과 함께 교대 최적화 훈련 스킴을 설명한다.

실험 결과

연구 질문

• RQ1 전역 지식이 개인화된 FL에서 로컬 표현 학습을 어떻게 인도하여 특징 드리프트를 줄일 수 있는가?
• RQ2 최적의 클라이언트 간 분류기 협력이 관련이 없는 클라이언트에 해를 끼치지 않으면서 개인화를 향상시킬 수 있는가?
• RQ3 분류기 융합과 PFL의 편향-분산 트레이드오프 사이의 이론적 관계는 무엇인가?
• RQ4 FedPAC는 데이터 이질성 변화와 컨셉 시프트에 따라 어떻게 성능이 달라지는가?

주요 결과

• FedPAC가 강력한 베이스라인에 비해 평균 정확도를 데이터셋 간에 향상시킨다.
• 특징 정렬은 표현의 드리프트를 줄이고 일반화 성능을 향상시킨다.
• 적응적 분류기 조합은 이득을 낳으며 FA와 CC가 성능에 기여한다.
• 다양한 이질성 수준과 컨셉 시프트에도 방법이 강건하다.
• 벤치마크에서 평균 2–5%의 정확도 향상을 관찰할 수 있다.