[논문 리뷰] On Bridging Generic and Personalized Federated Learning.

Hong-You Chen, Wei‐Lun Chao|arXiv (Cornell University)|2021. 07. 02.

Privacy-Preserving Technologies in Data참고 문헌 99인용 수 6

한 줄 요약

이 논문은 두 개의 별도의 예측기와 손실 함수를 사용하여 일반적이고 개인화된 모델 목표를 분리하는 Fed-RoD라는 페더레이티드 러닝 프레임워크를 제안한다. 분포에 민감하지 않은 손실 함수로 강건한 일반 예측기를 훈련하고 각 클라이언트별로 경량 개인화 어댑터를 사용함으로써, Fed-RoD는 비록 비독립 동일 분포(non-iid) 데이터가 존재하더라도 일반적 및 개인화된 작업에서 동시에 최신 기술 성능을 달성하며, 오랫동안 지속된 페더레이티드 러닝의 상충 관계를 해결한다.

ABSTRACT

Federated learning is promising for its ability to collaboratively train models with multiple clients without accessing their data, but vulnerable when clients' data distributions diverge from each other. This divergence further leads to a dilemma: Should we prioritize the learned model's generic performance (for future use at the server) or its personalized performance (for each client)? These two, seemingly competing goals have divided the community to focus on one or the other, yet in this paper we show that it is possible to approach both at the same time. Concretely, we propose a novel federated learning framework that explicitly decouples a model's dual duties with two prediction tasks. On the one hand, we introduce a family of losses that are robust to non-identical class distributions, enabling clients to train a generic predictor with a consistent objective across them. On the other hand, we formulate the personalized predictor as a lightweight adaptive module that is learned to minimize each client's empirical risk on top of the generic predictor. With this two-loss, two-predictor framework which we name Federated Robust Decoupling Fed-RoD, the learned model can simultaneously achieve state-of-the-art generic and personalized performance, essentially bridging the two tasks.

연구 동기 및 목표

• 페더레이티드 러닝에서 서버 수준의 유틸리티(일반 모델 성능)와 클라이언트 수준의 정확도(개인화된 성능) 사이의 근본적인 상충 관계를 해결한다.
• 클라이언트 간 비독립 동일 분포(non-iid) 데이터 분포로 인한 성능 저하와 수렴의 어려움을 극복한다.
• 일반적 성능과 개인화된 성능을 동시에 최적화하면서 둘 다 희생시키지 않는 통합 프레임워크를 개발한다.
• 클라이언트가 서버의 강건하고 일반적인 모델에 기여하면서도 개인화된 성능를 유지할 수 있도록 한다.
• 모델 학습을 두 가지 별개이지만 상호 보완적인 작업으로 분리한다: 일반 일반화와 클라이언트 특화 적응

제안 방법

• 비독립 동일 분포 클래스 분포에 대해 불변인 손실 함수의 가족을 도입하여, 클라이언트 간 일관된 훈련 목표를 보장한다.
• 모델을 두 구성 요소로 분리한다: 모든 클라이언트에서 훈련되는 공유된 일반 예측기와 클라이언트별 개인화 예측기.
• 개인화된 예측기를 각 클라이언트의 경험적 리스크를 최소화하기 위해 일반 예측기 위에 피팅되는 경량으로 가공 가능한 어댑터 모듈로 공식화한다.
• 일반 성능(강건한 손실)과 개인화 성능(클라이언트별 경험적 리스크)을 위한 이중 브랜치 손실을 사용하여 프레임워크를 종단 간(end-to-end)으로 훈련한다.
• 클라이언트 특화 데이터 이동에서 독립적으로 유지되어야 할 일반 예측기의 안정성과 일반화 능력을 확보하면서, 모듈식 적응을 통해 개인화를 허용한다.
• 일반 헤드가 기본 모델이 되고, 개인화 헤드가 추론 또는 미세조정 시 클라이언트별로 동적으로 적응되는 이중 헤드 아키텍처를 사용한다.

실험 결과

연구 질문

• RQ1 일반적 및 개인화된 모델 성능을 동시에 최적화하면서 둘 다 희생시키지 않는 페더레이티드 러닝 프레임워크는 가능한가?
• RQ2 강건한 손실 함수는 클라이언트 간 비독립 동일 분포 클래스 분포로 인한 성능 저하를 어떻게 완화할 수 있는가?
• RQ3 경량 클라이언트 특화 어댑터는 일반 모델의 일반화 능력을 유지하면서 개인화 정확도를 얼마나 향상시킬 수 있는가?
• RQ4 일반 성능와 개인화 성능를 위한 훈련 목표를 분리함으로써, 통합 훈련 방식보다 더 나은 전체 성능을 달성할 수 있는가?
• RQ5 제안된 프레임워크는 데이터 분포 이동에 대한 강건성과 개인화 정확도 측면에서 기존 방법과 비교해 어떻게 성능가능한가?

주요 결과

• Fed-RoD는 비독립 동일 분포 데이터를 가진 여러 벤치마크 데이터셋에서 일반적 및 개인화된 작업에서 최신 기술 성능을 달성한다.
• 강건한 손실 구성 요소는 표준 교차 엔트로피에 비해 심각한 데이터 분포 이동 상황에서 일반 모델의 정확도를 크게 향상시킨다.
• 개인화된 어댑터 모듈은 각 클라이언트가 높은 작업 특화 정확도를 달성하게 하며, 일반 또는 개인화 목표에만 최적화된 기존 베이스라인을 능가한다.
• 분리된 훈련 프레임워크는 강력한 일반화 능력을 유지하면서도 세밀한 개인화를 허용하여, 일반 모델 대 개인화 모델의 상충 관계를 효과적으로 해결한다.
• 실증 결과는 이중 손실, 이중 예측기 설계가 통합 최적화 전략보다 더 안정적인 수렴과 더 나은 클라이언트 수준의 성능을 이끌어낸다.
• 경량 어댑터는 최소한의 계산 오버헤드를 유발하여, 실세계 페더레이티드 환경에서 자원이 제한된 클라이언트에게도 실용적인 프레임워크를 제공한다.