[논문 리뷰] PFA: Privacy-preserving Federated Adaptation for Effective Model Personalization

Bingyan Liu, Yao Guo외 1명|arXiv (Cornell University)|2021. 03. 02.

Privacy-Preserving Technologies in Data참고 문헌 61인용 수 4

한 줄 요약

이 논문은 희소성 기반 표현을 사용해 유사한 데이터 분포를 가진 클라이언트를 군집화함으로써 연합 모델의 공동 개인화를 가능하게 하는 프라이버시 보장 연합 적응 프레임워크인 PFA를 제안한다. 원시 데이터를 공유하지 않고도 유사한 클라이언트 간에 글로벌 모델을 적응시킴으로써 PFA는 로컬 미세조정에 비해 개인화 성능을 크게 향상시키면서도 프라이버시를 유지한다.

ABSTRACT

Federated learning (FL) has become a prevalent distributed machine learning paradigm with improved privacy. After learning, the resulting federated model should be further personalized to each different client. While several methods have been proposed to achieve personalization, they are typically limited to a single local device, which may incur bias or overfitting since data in a single device is extremely limited. In this paper, we attempt to realize personalization beyond a single client. The motivation is that during FL, there may exist many clients with similar data distribution, and thus the personalization performance could be significantly boosted if these similar clients can cooperate with each other. Inspired by this, this paper introduces a new concept called federated adaptation, targeting at adapting the trained model in a federated manner to achieve better personalization results. However, the key challenge for federated adaptation is that we could not outsource any raw data from the client during adaptation, due to privacy concerns. In this paper, we propose PFA, a framework to accomplish Privacy-preserving Federated Adaptation. PFA leverages the sparsity property of neural networks to generate privacy-preserving representations and uses them to efficiently identify clients with similar data distributions. Based on the grouping results, PFA conducts an FL process in a group-wise way on the federated model to accomplish the adaptation. For evaluation, we manually construct several practical FL datasets based on public datasets in order to simulate both the class-imbalance and background-difference conditions. Extensive experiments on these datasets and popular model architectures demonstrate the effectiveness of PFA, outperforming other state-of-the-art methods by a large margin while ensuring user privacy. We will release our code at: https://github.com/lebyni/PFA.

연구 동기 및 목표

• 작은 로컬 데이터 볼륨으로 인해 과적합 위험이 있는 단일 클라이언트 데이터에서만 미세조정하는 기존 개인화 방법의 한계를 해결하기 위해.
• 유사한 데이터 분포를 가진 여러 클라이언트가 공동으로 글로벌 모델을 적응시키는 새로운 패러다임으로서의 연합 적응을 탐색하기 위해.
• 원시 데이터 교환을 방지함으로써 조건부로 협력하는 클라이언트 간에도 프라이버시를 보장하기 위해.
• 모델의 희소성에 기반한 스케일링 가능하고 효율적인 클라이언트 군집화 방법을 개발하기 위해.
• 클래스 불균형과 배경 차이를 시뮬레이션하는 실제적인 수작업 연합 학습(FL) 데이터셋에서 프레임워크를 평가하기 위해.

제안 방법

• PFA는 사전 훈련된 연합 모델에서 활성화된 뉴런의 희소성 패턴을 각 클라이언트의 프라이버시 보장 표현으로 사용한다.
• 이 희소성 벡터는 최종 완전 연결 층에서 계산되며, 코사인 유사도를 통해 클라이언트 간의 유사도를 측정하는 데 사용된다.
• 클라이언트는 희소성 벡터 유사도에 기반해 군집화되며, 유사한 데이터 분포를 가진 클라이언트 그룹이 형성된다.
• 각 군집 내에서 원시 데이터를 사용하지 않고 모델 파라미터만을 이용해 글로벌 모델을 공동으로 적응시키는 새로운 연합 학습 과정이 수행된다.
• 프레임워크는 희소성 벡터에 노이즈를 주입할 수 있도록 설계되어 있어, 차별적 프라이버시를 보장하지만 이는 향후 연구 과제로 남아 있다.
• 원시 데이터나 모델 가중치를 클라이언트와 서버 간에 전송하지 않음으로써 데이터 泄露를 방지한다.

실험 결과

연구 질문

• RQ1 여러 유사한 클라이언트 간의 공동 모델 적응인 연합 적응이 단일 클라이언트 미세조정을 초월해 개인화 성능을 크게 향상시킬 수 있는가?
• RQ2 특히 엄격한 프라이버시 제약 조건 하에서 원시 데이터를 공유하지 않고도 클라이언트 유사도를 효과적으로 측정할 수 있는가?
• RQ3 신경망 활성화에서의 희소성 패턴이 데이터 분포 유사도의 신뢰성 있고 프라이버시 보장 가능한 대체 측정 기준이 될 수 있는가?
• RQ4 희소성 기반 군집화를 사용한 군집별 연합 적응이 로컬 적응에 비해 더 나은 일반화 성능과 과적합 감소를 이끌 수 있는가?
• RQ5 클래스 불균형과 배경 변화와 같은 실제 비독립 동일 분포(non-IID) 조건에서 PFA는 어떻게 성능을 발휘하는가?

주요 결과

• PFA는 합성 및 실제 세계 시뮬레이션 연합 학습(FL) 데이터셋에서 최신 기술인 로컬 미세조정 및 지식 증류 기법에 비해 큰 격차로 슈퍼리어한 성능을 기록한다.
• 희소성 기반 표현을 사용함으로써 원시 데이터暴露 없이 정확한 클라이언트 군집화를 가능하게 하여 클라이언트 군집화에서 높은 유사도 탐지 정확도를 달성한다.
• 특히 로컬 데이터 볼륨이 작을 경우, 단일 클라이언트 미세조정에 비해 과적합과 편향을 크게 감소시킨다.
• 적응 단계 동안 원시 데이터나 모델 파라미터를 공유하지 않음으로써 강력한 프라이버시 보장을 유지한다.
• 실험 결과, PFA는 클래스 불균형 및 배경이 다양한 데이터 분포를 포함한 다양한 비독립 동일 분포 설정에서 더 높은 테스트 정확도를 달성한다.
• 제거 실험을 통해 희소성 기반 클라이언트 군집화가 무작위 또는 히وري스틱 기반 군집화보다 개인화에 더 효과적임을 확인했다.