[논문 리뷰] Personalised Federated Learning: A Combinational Approach

Sone Kyaw Pye, Han Yu|arXiv (Cornell University)|2021. 08. 22.

Privacy-Preserving Technologies in Data참고 문헌 13인용 수 4

한 줄 요약

이 논문은 비.i.i.d. 데이터, 차별적 프라이버시(DP), 강건한 집계(RA) 환경에서 모델 성능을 향상시키기 위해 피니튜닝, 믹스처 오브 엑스퍼트(MoE), 다중 작업 학습(MTL), 지식 정착(KD)을 통합한 조합형 개인화 프레임워크를 제안한다. 조합된 방법이 개별 방법보다 일관되게 뛰어나며, 데이터 이질성과 프라이버시 보호 메커니즘으로 인한 성능 저하를 효과적으로 완화함을 입증한다.

ABSTRACT

Federated learning (FL) is a distributed machine learning approach involving multiple clients collaboratively training a shared model. Such a system has the advantage of more training data from multiple clients, but data can be non-identically and independently distributed (non-i.i.d.). Privacy and integrity preserving features such as differential privacy (DP) and robust aggregation (RA) are commonly used in FL. In this work, we show that on common deep learning tasks, the performance of FL models differs amongst clients and situations, and FL models can sometimes perform worse than local models due to non-i.i.d. data. Secondly, we show that incorporating DP and RA degrades performance further. Then, we conduct an ablation study on the performance impact of different combinations of common personalization approaches for FL, such as finetuning, mixture-of-experts ensemble, multi-task learning, and knowledge distillation. It is observed that certain combinations of personalization approaches are more impactful in certain scenarios while others always improve performance, and combination approaches are better than individual ones. Most clients obtained better performance with combined personalized FL and recover from performance degradation caused by non-i.i.d. data, DP, and RA.

연구 동기 및 목표

• 클라이언트 간 비.i.i.d. 데이터 분포로 인한 페더레이티드 러닝 모델의 성능 저하 문제를 해결하기 위해.
• 차별적 프라이버시(DP)와 강건한 집계(RA)가 FL 모델 성능에 미치는 영향을 조사하기 위해.
• 피니튜닝, 믹스처 오브 엑스퍼트, 다중 작업 학습, 지식 정착을 개별적으로 및 조합적으로 평가하고 비교하기 위해.
• 다양한 FL 시나리오에서 일관되게 클라이언트별 성능을 향상시키는 최적의 개인화 전략 조합을 규명하기 위해.
• 조합형 개인화 접근 방식이 비.i.i.d. 데이터 및 프라이버시 제약으로 인한 성능 손실을 복구할 수 있음을 입증하기 위해.

제안 방법

• 저자는 피니튜닝, 믹스처 오브 엑스퍼트(MoE), 다중 작업 학습(MTL), 지식 정착(KD)을 조합한 하이브리드 개인화 프레임워크를 구현한다.
• 이러한 기법들을 순차적이고 상호보완적인 방식으로 적용: 먼저 글로벌 FL 모델을 훈련한 후, 피니튜닝과 MoE를 통해 클라이언트별로 적응시키며, MTL과 KD를 활용해 지식 전이를 수행한다.
• 훈련 중 프라이버시와 모델 무결성을 유지하기 위해 차별적 프라이버시(DP)와 강건한 집합(RA)을 통합한다.
• 다양한 데이터 비.i.i.d. 수준과 프라이버시 제약 조건 하에서 여러 딥 러닝 작업에서 성능을 평가한다.
• 제거 분석을 통해 각 개인화 구성 요소와 그 조합의 기여도를 체계적으로 분리하고 비교한다.
• 다양한 데이터 분포에서 정확도와 강건성 지표를 사용해 클라이언트별 성능을 측정한다.

실험 결과

연구 질문

• RQ1 비.i.i.d. 데이터 분포가 클라이언트 간 표준 페더레이티드 러닝 모델의 성능에 어떤 영향을 미치는가?
• RQ2 차별적 프라이버시와 강건한 집계가 FL 모델 성능을 얼마나 떨어뜨리는가?
• RQ3 피니튜닝, MoE, MTL, KD 중 어떤 개인화 기법이 가장 일관된 성능 향상을 제공하는가?
• RQ4 비균형적 환경과 프라이버시 제약 조건이 있는 FL 환경에서 조합된 개인화 전략이 개별 접근 방식을 능가하는가?
• RQ5 조합형 개인화 프레임워크는 비.i.i.d. 데이터, DP, RA로 인한 성능 손실을 복구할 수 있는가?

주요 결과

• 비.i.i.d. 데이터 분포로 인해 표준 페더레이티드 러닝 모델은 로컬 모델에 비해 성능이 떨어지는 경우가 흔하다.
• 차별적 프라이버시와 강건한 집계 적용으로 인해 클라이언트 간 FL 모델 성능이 추가로 저하된다.
• 개인화 기법의 조합은 클라이언트별 성능 향상에 항상 기여하며, 특정 시나리오에서는 특히 뛰어난 성능 향상을 보인다.
• 제안된 조합형 접근 방식은 비.i.i.d. 데이터, DP, RA로 인한 성능 손실을 효과적으로 복구하며, 글로벌 모델과 개별 개인화 모델보다 뛰어난 성능을 보인다.
• 피니튜닝과 지식 정착, 믹스처 오브 엑스퍼트의 조합이 다양한 클라이언트 데이터 분포에서 가장 강력한 성능 향상을 이룬다.
• 일부 개인화 방법 조합은 보편적으로 유익한 반면, 다른 조합은 맥락에 따라 달라지므로, 적응형 전략 선택의 필요성을 강조한다.