[논문 리뷰] Personalized Federated Learning under Mixture of Distributions

Yue Wu, Shuaicheng Zhang외 6명|arXiv (Cornell University)|2023. 05. 01.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 개인화된 플러그 앤 플레이(federated) 학습 프레임워크인 FedGMM을 제안하며, 분산 기반 기대값 최대화(Expectation-Maximization, EM) 알고리즘을 통해 가우시안 혼합 모델(Gaussian Mixture Models, GMMs)을 사용하여 연관된 데이터 분포 이질성을 모델링한다. 이는 기울기 유사성 가정 없이도 불확실성 정량화와 새로운 클라이언트에 대한 효율적 적응을 가능하게 하여 개인화된 플러그 앤 플레이 학습에서 뛰어난 성능과 분포 외(out-of-distribution, OOD) 탐지 성능을 달성한다.

ABSTRACT

The recent trend towards Personalized Federated Learning (PFL) has garnered significant attention as it allows for the training of models that are tailored to each client while maintaining data privacy. However, current PFL techniques primarily focus on modeling the conditional distribution heterogeneity (i.e. concept shift), which can result in suboptimal performance when the distribution of input data across clients diverges (i.e. covariate shift). Additionally, these techniques often lack the ability to adapt to unseen data, further limiting their effectiveness in real-world scenarios. To address these limitations, we propose a novel approach, FedGMM, which utilizes Gaussian mixture models (GMM) to effectively fit the input data distributions across diverse clients. The model parameters are estimated by maximum likelihood estimation utilizing a federated Expectation-Maximization algorithm, which is solved in closed form and does not assume gradient similarity. Furthermore, FedGMM possesses an additional advantage of adapting to new clients with minimal overhead, and it also enables uncertainty quantification. Empirical evaluations on synthetic and benchmark datasets demonstrate the superior performance of our method in both PFL classification and novel sample detection.

연구 동기 및 목표

• 기존의 개인화된 플러그 앤 플레이 학습(PFL) 방법이 조건부 분포 이질성(조건부 분포의 이질성)에만 초점을 맞추고 있으며, 여전히 주변 분포 이질성(주변 분포의 이질성)을 간과하고 있는 한계를 해결하기 위해.
• 입력 및 레이블 분포가 모두 변하는 환경에서 클라이언트 간의 연관된 분포 이질성을 효과적으로 모델링할 수 있는 PFL 프레임워크를 개발하기 위해.
• 실세계 플러그 앤 플레이 환경에서 새로운 클라이언트와 새로운 샘플에 대해 불확실성 정량화 및 분포 외(OOD) 탐지를 가능하게 하기 위해.
• 재훈련 오버헤드를 최소화하면서도 새로운 클라이언트에 빠르게 적응할 수 있는 통신 효율적이고 확장 가능한 방법을 설계하기 위해.

제안 방법

• FedGMM는 클라이언트 간의 연관된 데이터 분포를 가우시안 성분의 혼합으로 모델링하여 입력(공변량) 및 레이블(개념) 이질성을 모두 포괄한다.
• 분산된 방식으로 GMM 파라미터를 추정하기 위해 분산 기반 기대값 최대화(Expectation-Maximization, EM) 알고리즘을 적용하며, 클라이언트 간 관측된 데이터의 로그우도(log-likelihood)를 최대화한다.
• 기울기 유사성 가정 없이 닫힌 형태로 EM 알고리즘을 해결함으로써 안정적이고 효율적인 수렴이 가능하다.
• 학습된 GMM 하에서 샘플의 확률을 추정함으로써 불확실성 정량화를 지원하며, OOD 탐지를 가능하게 한다.
• 개별 클라이언트는 개인화된 모델을 GMM 성분에서 유도하여 로컬 데이터 분포에 따라 성분을 선택하거나 조합할 수 있다.
• 최소한의 데이터로 성분 가중치를 미세조정함으로써 기존의 글로벌 GMM 구조를 재사용함으로써 새로운 클라이언트에 대한 빠른 적응이 가능하다.

실험 결과

연구 질문

• RQ1 플러그 앤 플레이 학습 환경에서 클라이언트 간 공변량 이질성과 개념 이질성을 모두 포함한 연관된 분포 이질성을 효과적으로 모델링할 수 있는 플러그 앤 플레이 학습 프레임워크가 존재하는가?
• RQ2 불확실성 정량화는 개인화된 플러그 앤 플레이 학습에 어떻게 통합될 수 있으며, 분포 외 샘플과 새로운 클라이언트를 탐지하는 데 어떻게 기여하는가?
• RQ3 기존의 조건부 분포 이질성만 모델링하는 PFL 방법에 비해 GMM 기반 접근법이 더 뛰어난 개인화 성능을 달성할 수 있는가?
• RQ4 제안된 방법은 재훈련 및 통신 오버헤드를 최소화하면서도 새로운 클라이언트에 얼마나 잘 적응할 수 있는가?
• RQ5 FedGMM에서 사용된 분산 기반 EM 알고리즘이 비독립(identical and independent, iid)이 아니며 이질적인 플러그 앤 플레이 환경에서도 수렴성과 안정성을 보장하는가?

주요 결과

• FedGMM는 세 가지 벤치마크 플러그 앤 플레이 학습 데이터셋과 하나의 합성 데이터셋에서 최신 기술 기준(PFL 기준) 보다 뛰어난 개인화 정확도를 확보하였다.
• 기존의 불확실성 인식 PFL 방법보다 높은 AUROC 및 AUPRC 점수를 기록하여 분포 외(OOD) 탐지 성능에서 뛰어난 성능을 보였다.
• 샘플 수준에서 효과적인 불확실성 정량화를 가능하게 하여 새로운 또는 이질적인 입력을 신뢰성 있게 탐지할 수 있었다.
• 기울기 유사성 가정 없이도 분산 기반 EM 알고리즘이 강한 데이터 이질성 조건에서도 안정적이고 효율적으로 수렴하였다.
• 기존의 글로벌 GMM 구조를 재사용함으로써 새로운 클라이언트에 대한 빠른 적응이 가능하여 학습 비용과 통신 오버헤드를 감소시켰다.
• 실증 결과는 주변 분포가 안정적이라는 가정을 하는 방법에 비해 GMM를 통한 연관된 분포 이질성 모델링이 더 견고하고 개인화된 모델을 도출함에 있어 유의미한 성능 향상을 이끌어냈다.