[논문 리뷰] Personalized Federated Learning with First Order Model Optimization

Michael Zhang, Karan Sapra외 3명|arXiv (Cornell University)|2020. 12. 15.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 26

한 줄 요약

이 논문은 비정상적인 데이터 분포(non-IID) 환경에서 개별 클라이언트의 목표 데이터 분포에 더 잘 맞추기 위해 클라이언트가 다른 클라이언트의 모델을 일阶 최적화를 통해 동적으로 조합할 수 있는 개인화된 피어드 페더레이티드 러닝 프레임워크인 FedFomo를 제안한다. 개인화된 목표에서의 성능에 기반해 클라이언트별 가중치 조합을 계산함으로써, FedFomo는 비정상적인 데이터 분포 환경에서 기준 모델 대비 최대 70% 높은 정확도를 달성하며, 차별적 프라이버시 보장 조건에서도 뛰어난 성능을 유지한다.

ABSTRACT

While federated learning traditionally aims to train a single global model across decentralized local datasets, one model may not always be ideal for all participating clients. Here we propose an alternative, where each client only federates with other relevant clients to obtain a stronger model per client-specific objectives. To achieve this personalization, rather than computing a single model average with constant weights for the entire federation as in traditional FL, we efficiently calculate optimal weighted model combinations for each client, based on figuring out how much a client can benefit from another's model. We do not assume knowledge of any underlying data distributions or client similarities, and allow each client to optimize for arbitrary target distributions of interest, enabling greater flexibility for personalization. We evaluate and characterize our method on a variety of federated settings, datasets, and degrees of local data heterogeneity. Our method outperforms existing alternatives, while also enabling new features for personalized FL such as transfer outside of local data distributions.

연구 동기 및 목표

• 비정상적인 데이터 분포(non-IID) 환경에서 단일 모델이 다양한 클라이언트의 고유한 요구를 충족시키지 못하는 전역 모델의 한계를 해결하기 위해.
• 원시 데이터를 공유하지 않고도, 자신의 지역 학습 데이터 외부의 데이터 분포를 포함한 임의의 목표 데이터 분포를 최적화할 수 있도록 클라이언트를 가능하게 하기 위해.
• 전역 모델 평균화나 데이터 유사성 가정에 의존하지 않는 효율적이고 확장 가능한 개인화된 페더레이티드 업데이트 방법을 개발하기 위해.
• 개인화된 학습의 견고성을 차별적 프라이버시 조건 하에서 평가하여, 성능을 저하시키지 않은 채 강력한 프라이버시 보장을 확보하기 위해.

제안 방법

• FedFomo는 각 클라이언트가 개인화된 목표 분포에서의 성능에 기반해 업로드된 모델의 클라이언트별 가중치 조합을 계산하며, 기존의 전역 평균화 방식을 대체한다.
• 일阶 최적화를 사용해 개인화된 기울기 스텝을 근사함으로써, 다른 클라이언트의 데이터에 직접 접근하지 않더라도 효율적이고 확장 가능한 업데이트를 가능하게 한다.
• 각 클라이언트는 다른 모델이 자신의 목표 작업에서 어떻게 성능을 내는지 평가하고, 해당 목표에서 성능이 우수한 모델일수록 더 높은 가중치를 할당한다.
• 이 방법은 두 단계로 이루어지는 페더레이티드 업데이트를 수행한다: (1) 클라이언트별 목표에서의 모델 성능 평가, (2) 일阶 근사법을 사용한 최적의 가중치 조합 계산.
• 각 클라이언트는 라운드 간에 개별 모델 파라미터를 유지하며, 각 클라이언트의 목표 분포와 관련성이 높은 모델만 선택적으로 포함할 수 있도록 한다.
• FedFomo는 차별적 프라이버시와도 호환되며, 국소 학습 중에 제어된 가우시안 노이즈를 추가하는 DP-SGD를 사용함으로써 개인화 성능를 유지한다.

실험 결과

연구 질문

• RQ1 클라이언트 간 데이터 유사성 또는 공통 분포를 가정하지 않고도, 페더레이티드 러닝 프레임워크가 강력한 개인화를 달성할 수 있는가?
• RQ2 원시 데이터에 접근하지 않고도, 다른 클라이언트의 모델 파arameter들만을 사용해 클라이언트가 효율적으로 개인화된 모델 업데이트를 계산할 수 있는가?
• RQ3 개인화된 페더레이티드 러닝은 지역 학습 데이터와 일치하지 않는 분포 외부의 목표 작업을 최적화하는 데까지 확장될 수 있는가?
• RQ4 제안된 방법은 차별적 프라이버시 조건 하에서 어떻게 성능을 발휘하며, 강력한 프라이버시 보장을 확보하면서도 높은 정확도를 유지할 수 있는가?

주요 결과

• FedFomo는 비정상적인 데이터 분포 환경에서의 페더레이티드 이미지 분류 설정에서 기준 모델 대비 최대 70% 높은 정확도를 달성하며, 데이터 이질성이 증가할수록 성능 향상이 더 두드러진다.
• CIFAR-10에서 FedFomo는 비개인화 설정 하에서 71.56%의 정확도를 기록했으며, 이는 FedAvg의 19.37%보다 뚜렷이 높은 성능이다.
• σ=1인 차별적 프라이버시 조건 하에서 FedFomo는 CIFAR-10에서 71.28%의 정확도를 유지하며, ε=6.89를 달성하여 강력한 프라이버시-성능 트레이드오프를 보여준다.
• 고도의 노이즈(σ=2) 조건에서도 FedFomo는 CIFAR-10에서 65.97%의 정확도를 유지하며, 프라이버시 보장 업데이트에 대한 강건성을 입증한다.
• FedFomo는 기저의 지역 데이터 분포를 성공적으로 탐지하고, 각 클라이언트의 목표 목적에 가장 부합하는 데이터로 학습된 모델을 우선순위로 조합한다.
• 이 방법은 기존의 유사성 기반 개인화 방법이 지원하지 않는 분포 외부 성능 최적화를 가능하게 한다.