[논문 리뷰] PRIOR: Personalized Prior for Reactivating the Information Overlooked in Federated Learning

Mingjia Shi, Zhou Yuhao외 5명|arXiv (Cornell University)|2023. 10. 13.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 Bregman 발산 정규화와 완화된 미러 강하(RMD)를 사용하여 개인화된 사전 지식을 글로벌 모델에 통합함으로써 데이터 이질성으로 인한 정보 손실 문제를 해결하는 새로운 개인화된 분산 학습 프레임워크인 pFedBreD를 제안한다. 이는 DNN-FEMNIST와 같은 벤치마크에서 정확도를 최대 3.5% 향상시키며 최첨단 성능을 달성하며, 이론적 수렴 보장과 비볼록 및 저집합 설정에서도 강건함을 확보한다.

ABSTRACT

Classical federated learning (FL) enables training machine learning models without sharing data for privacy preservation, but heterogeneous data characteristic degrades the performance of the localized model. Personalized FL (PFL) addresses this by synthesizing personalized models from a global model via training on local data. Such a global model may overlook the specific information that the clients have been sampled. In this paper, we propose a novel scheme to inject personalized prior knowledge into the global model in each client, which attempts to mitigate the introduced incomplete information problem in PFL. At the heart of our proposed approach is a framework, the PFL with Bregman Divergence (pFedBreD), decoupling the personalized prior from the local objective function regularized by Bregman divergence for greater adaptability in personalized scenarios. We also relax the mirror descent (RMD) to extract the prior explicitly to provide optional strategies. Additionally, our pFedBreD is backed up by a convergence analysis. Sufficient experiments demonstrate that our method reaches the state-of-the-art performances on 5 datasets and outperforms other methods by up to 3.5% across 8 benchmarks. Extensive analyses verify the robustness and necessity of proposed designs.

연구 동기 및 목표

• 개인화된 분산 학습(PFL)에서 클라이언트 고유의 샘플링 정보가 간과되는 문제를 해결하기 위해, 단일 글로벌 모델이 고유한 클라이언트 데이터 특성을 유지하지 못하는 문제를 해결한다.
• 개인화된 사전 지식을 명시적으로 추출하고 글로벌 모델에 통합하여 국소 모델의 적응성과 성능을 향상시킨다.
• 데이터 이질성과 비볼록 목표 함수 조건 하에서도 수렴성과 강건성을 보장하는 이론적으로 탄탄한 프레임워크를 개발한다.
• 기존 PFL 방법들이 암묵적인 가정에 의존하거나 사전 지식 통합 없이 글로벌 모델의 직접 미세조정에 의존하는 한계를 극복한다.
• 볼록 및 비볼록 최적화 설정을 모두 지원하는 유연하고 적응 가능한 개인화 학습 프레임워크를 제공한다.

제안 방법

• Bregman 발산 정규화를 사용하여 국소 목표 함수에서 개인화된 사전 지식을 분리함으로써 이질적 환경에서의 적응성 향상을 위한 pFedBreD 프레임워크를 제안한다.
• 국소 모델에서 사전 지식을 명시적으로 추출할 수 있도록 완화된 미러 강하(RMD)를 도입하여 해석 가능하고 사용자 정의 가능한 개인화 전략을 가능하게 한다.
• PFL 문제를 베이지안 최적화 문제로 모델링한다: 글로벌 모델 학습을 위한 글로벌-MLE(최대우도추정)과 국소 개인화를 위한 로컬-MAP(사후확률최대화)를 사용한다.
• Bregman 발산을 사용해 국소 목표 함수를 정규화함으로써 안정적이고 적응 가능한 업데이트를 보장하고 클라이언트 고유의 정보를 유지한다.
• 이중 단계 학습 프로세스를 적용한다: 먼저 개인화된 사전 지식을 글로벌 모델에 통합하고, 그 다음 국소 지식을 추출 및 집계하여 글로벌 모델를 개선한다.
• 이론적 수렴 분석을 통해 집합 노이즈가 존재할 경우 선형 경계 O(1/TN)와 노이즈가 없는 경우 제곱 속도 향상 O(1/(TNR)^2)를 보임을 확인한다.

실험 결과

연구 질문

• RQ1 데이터 이질성으로 인한 정보 손실 문제를 완화하기 위해 개인화된 사전 지식을 글로벌 모델에 명시적으로 통합할 수 있는가?
• RQ2 클라이언트 데이터로부터의 사전 지식은 어떻게 명시적으로 추출하고 활용하여 국소 모델의 개인화를 향상시킬 수 있는가?
• RQ3 제안된 pFedBreD 프레임워크는 비볼록 및 이질적 데이터 환경에서 기존 PFL 방법보다 더 나은 수렴성과 성능을 달성하는가?
• RQ4 pFedBreD의 이론적 수렴 거동은 집합 노이즈와 클라이언트 이질성에 따라 어떻게 변화하는가?
• RQ5 Bregman 발산과 RMD를 조합한 하이브리드 전략은 다양한 벤치마크와 데이터 분포에서 상호보완적이며 강건한가?

주요 결과

• pFedBreD는 5개의 실세계 데이터셋에서 8개의 벤치마크에서 최첨단 성능을 달성하며, 특히 DNN-FEMNIST에서 기존 방법 대비 정확도를 최대 3.5% 향상시켰다.
• 데이터 이질성에 대해 강건하며, 특히 집합 빈도가 낮은 상황에서 성능 향상이 가장 두드러진다.
• 제거 실험을 통해 Bregman 발산과 RMD를 조합한 전략이 상호보완적이며, 각 성분이 성능 향상에 기여한다는 것이 확인되었다.
• 이론적 분석을 통해 집합 노이즈가 존재할 경우 선형 경계 O(1/TN)와 노이즈가 없는 경우 제곱 속도 향상 O(1/(TNR)^2)를 보이며 수렴성을 확인했다.
• 사전 지식 통합 및 추출의 존재성과 타당성이 실증적으로 입증되었으며, 개인화된 사전 지식이 모델 일반화 및 적응 능력을 크게 향상시킴을 보였다.
• 볼록 및 비볼록 국소 목표 함수 모두에서 강력한 성능 유지를 보이며, 이는 프레임워크의 광범위한 적용 가능성을 확인한다.