[논문 리뷰] Self-Aware Personalized Federated Learning

Huili Chen, Jie Ding외 5명|arXiv (Cornell University)|2022. 04. 17.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 베이지안 계층 모델에서의 불확실성 측정을 활용하여 국소적 개인화와 글로벌 모델 집계 사이의 균형을 자동으로 조정하는 새로운 프레임워크인 Self-Aware Personalized Federated Learning (Self-FL)을 제안한다. 클라이언트 간 및 클라이언트 내 불확실성에서 유도된 클라이언트별 학습 스텝과 집계 규칙을 통해, 수동적인 초모델 조정 없이도 우수한 개인화 성능을 달성하며, 합성 데이터, MNIST, FEMNIST, CIFAR10, Sent140 및 실제 앨리스 오디오 데이터와 같은 다양한 데이터셋에서 FedAvg, DITTO, PerFedAvg를 능가한다.

ABSTRACT

In the context of personalized federated learning (FL), the critical challenge is to balance local model improvement and global model tuning when the personal and global objectives may not be exactly aligned. Inspired by Bayesian hierarchical models, we develop a self-aware personalized FL method where each client can automatically balance the training of its local personal model and the global model that implicitly contributes to other clients' training. Such a balance is derived from the inter-client and intra-client uncertainty quantification. A larger inter-client variation implies more personalization is needed. Correspondingly, our method uses uncertainty-driven local training steps and aggregation rule instead of conventional local fine-tuning and sample size-based aggregation. With experimental studies on synthetic data, Amazon Alexa audio data, and public datasets such as MNIST, FEMNIST, CIFAR10, and Sent140, we show that our proposed method can achieve significantly improved personalization performance compared with the existing counterparts.

연구 동기 및 목표

• 국소적 및 글로벌 목적이 상충될 때, 개인화된 피드어워드 학습에서 국소적 모델 개인화와 글로벌 모델 집계를 균형 있게 조절하는 문제를 해결하기 위해.
• 경험적 규칙나 크기 기반 규칙이 아닌 통계적 불확실성에 기반해 학습 및 집계를 자동으로 적응시키는 방법을 개발하기 위해.
• 개선된 이론적 및 실험적 성능를 위해 개인화된 피드어워드 학습과 베이지안 계층 모델링 간의 체계적인 연결 고리를 구축하기 위해.
• 개발자가 수동으로 초모델 조정을 하지 않아도 되도록 클라이언트별 내장형 자동 조정을 가능하게 하여, 피드어워드 학습 개발자의 사용성을 높이기 위해.
• 실제 비독립 동일 분포(Non-IID) 오디오 데이터인 아마존 앨리스 기기에서 온 실제 세계 데이터 분포를 포함한 다양한 데이터 분포에서 방법을 평가하기 위해.

제안 방법

• 이 방법은 두 수준의 베이지안 계층 모델에 기반하며, 클라이언트 간 불확실성은 클라이언트 간 분포 차이를 캡처하고, 클라이언트 내 불확실성은 국소 데이터 변동성을 모델링한다.
• Self-FL은 클라이언트의 데이터 이질성과 불확실성 추정에 기반해 적응하는 불확실성 기반 국소 학습 스텝을 사용한다.
• 집계 규칙은 불확실성 측정에서 유도되며, 기존의 샘플 수 기반 가중치를 통계적으로 타당한 접근 방식으로 대체한다.
• 실용적인 딥러닝 버전의 Self-FL이 제안되며, 이는 FedAvg와 동일한 통신 및 계산 오버헤드를 유지하면서도 개인화 성능을 향상시킨다.
• 개발자가 수동으로 초모델 조정을 하지 않아도 되는 클라이언트별 자동 조정을 통해 개발자 부담을 감소시킨다.
• 계층 모델 설정에서 이론적 수렴성이 정당화되어 있으며, 이는 적응 메커니즘의 분석적 기반을 제공한다.

실험 결과

연구 질문

• RQ1 피드어워드 학습에서 개인화 성능의 이론적 상한선은 무엇이며, 이를 불확실성 측정을 통해 어떻게 접근할 수 있는가?
• RQ2 원시 데이터를 공유하지 않고도 글로벌 모델이 클라이언트 간에 유용한 정보를 효과적으로 전달하기 위해 어떻게 활용될 수 있는가?
• RQ3 클라이언트 간 데이터 분포의 격차에 기반해 국소 학습과 모델 집계를 어떻게 적응적으로 校정할 수 있는가?
• RQ4 비독립 동일 분포(Non-IID) 환경에서 불확실성 측정이 경험적 규칙이나 크기 기반 집계 규칙을 대체하여 개인화 성능을 향상시킬 수 있는가?
• RQ5 수동적인 초모델 설정 없이도 클라이언트별로 개인화된 피드어워드 학습을 자동 조정할 수 있는가?

주요 결과

• Self-FL은 기기 유형 A에서 상대적 거짓 경고 비율(0.92)을 기록하며, 글로벌 모델 평가에서 모든 기기 유형에서 모든 베이스라인을 뛰어넘는 일관된 성능을 보였다.
• 개인화된 모델 성능에서 Self-FL은 기기 유형 간 상대적 FA 값 0.90–0.99를 달성했으며, FedAvg-e(0.95–0.98), DITTO-e(0.96–0.96), PerFedAvg(1.02–1.11)를 크게 능가했다.
• 샘플 수 기반 집계(FedAvg-w 및 DITTO-w)는 글로벌 모델 성능을 악화시켰으며, 상대적 FA 값이 최대 12.80까지 올라가, 수치 기반 가중치가 높은 데이터 이질성 하에서는 실패함을 시사했다.
• 제거 실험을 통해 Self-FL이 클라이언트 샘플링 조건에서도 강력한 성능을 유지함을 확인하여, 실제 피드어워드 학습 환경에서의 강인함을 입증했다.
• Self-FL은 앨리스 오디오 데이터의 실제 세계 응용에서 뛰어난 개인화 성능을 달성했으며, 발음, 잡음, 기기 고유 특성으로 인해 데이터 분포가 매우 Non-IID인 점을 감안할 때 뛰어난 성능를 보였다.
• 지금까지 알려진 바로는 Self-FL은 개인화된 피드어워드 학습과 계층 모델링을 공식적으로 연결하고, 불확실성 측정을 활용해 적응적 학습 및 집계를 이끄는 첫 번째 방법이다.