[논문 리뷰] A Theoretical Perspective on Differentially Private Federated Multi-task Learning

Huiwen Wu, Cen Chen외 1명|arXiv (Cornell University)|2020. 11. 14.

Privacy-Preserving Technologies in Data참고 문헌 38인용 수 15

한 줄 요약

이 논문은 하위 네트워크 레이어를 공유하여 이식 가능한 특징 학습을 하고, 작업별로 고유한 상위 레이어를 유지함으로써 개인화를 가능하게 하는 비밀 보장 연합 다중 작업 학습 프레임워크인 DPFedMTL을 제안한다. 이는 비밀 보장(가우스형 DP를 통한)과 수렴성(비볼록, 볼록, 강볼록 설정)에 대한 최초의 이론적 보장을 제공하며, CelebA 및 FEMNIST 데이터셋에서 뛰어난 유틸리티-비밀 보장 트레이드오프를 입증한다.

ABSTRACT

In the era of big data, the need to expand the amount of data through data sharing to improve model performance has become increasingly compelling. As a result, effective collaborative learning models need to be developed with respect to both privacy and utility concerns. In this work, we propose a new federated multi-task learning method for effective parameter transfer with differential privacy to protect gradients at the client level. Specifically, the lower layers of the networks are shared across all clients to capture transferable feature representation, while top layers of the network are task-specific for on-client personalization. Our proposed algorithm naturally resolves the statistical heterogeneity problem in federated networks. We are, to the best of knowledge, the first to provide both privacy and utility guarantees for such a proposed federated algorithm. The convergences are proved for the cases with Lipschitz smooth objective functions under the non-convex, convex, and strongly convex settings. Empirical experiment results on different datasets have been conducted to demonstrate the effectiveness of the proposed algorithm and verify the implications of the theoretical findings.

연구 동기 및 목표

• 클라이언트 간의 효과적인 매개변수 전이를 가능하게 하여 연합 학습에서의 데이터 이질성 문제를 해결하기 위해.
• 연합 학습 중 클라이언트 수준의 기울기 정보가 비밀 유출되지 않도록 보호하기 위해.
• 비볼록, 볼록, 강볼록 설정에서 수렴 보장을 이론적으로 제공하기 위해.
• 연합 다중 작업 학습에서 비밀 보장(DP를 통한)과 모델 유틸리티 사이의 트레이드오프를 균형 잡기 위해.
• 더 나은 일반화와 비밀 보장을 위해 하드 매개변수 공유를 비밀 보장과 통합한 통합 프레임워크를 개발하기 위해.

제안 방법

• 모델은 모든 클라이언트 간에 공유되는 인코더(하위 레이어)를 사용하여 이식 가능한 특징을 학습하고, 개인화를 위해 작업별 고유의 헤드(상위 레이어)를 사용한다.
• 클라이언트 수준에서 기울기에 가우스 노이즈를 추가함으로써 비밀 보장을 적용한다.
• 비밀 보장 분석은 가우스형 비밀 보장(GDP)과 중심극한정리(CLT)를 사용하여 학습 단계 동안의 복합성을 분석한다.
• 비볼록, 볼록, 강볼록 설정에서 리프시츠 스무쓰 목적 함수에 대해 부분공간 분해를 통해 수렴성을 증명한다.
• 단지 공유 매개변수만 클라이언트 간에 평균화되는 연합 평균화(FedAvg)를 비밀 보장과 함께 사용한다.
• 비밀 보장 회계는 CLT를 통한 모멘트 회계 근사 방법을 사용하여 기존 $(\epsilon,\delta)$-DP보다 더 날카로운 경계를 제공한다.

실험 결과

연구 질문

• RQ1 공유 레이어와 작업별 고유 레이어를 갖춘 연합 다중 작업 학습 프레임워크가 비독립 동일 분포가 아닌 데이터에서 통계적 이질성을 효과적으로 다룰 수 있는가?
• RQ2 클라이언트 수준에서 기울기에 비밀 보장을 적용할 경우, 모델 유틸리티를 유지하면서도 강력한 비밀 보장 보장을 확보할 수 있는가?
• RQ3 비볼록, 볼록, 강볼록 목적 함수 설정에서 제안된 알고리즘의 이론적 수렴 행동은 어떠한가?
• RQ4 노이즈 수준 $\sigma$는 제안된 프레임워크에서 비밀 보장과 유틸리티 사이의 트레이드오프에 어떻게 영향을 미치는가?
• RQ5 증가하는 노이즈 수준에서 표준 DP-FedAvg에 비해 제안된 방법이 정확도와 비밀 보장 강건성 측면에서 뛰어나게 성능을 발휘할 수 있는가?

주요 결과

• CelebA에서 $\sigma = 0.65$일 때 DPFedMTL은 90.25%의 정확도를 달성하며, 강력한 비밀 보장 조건에서도 높은 유틸리티를 유지한다.
• FEMNIST에서 DPFedMTL은 $\sigma = 9.69$일 때도 76.79%의 정확도를 유지하여 높은 노이즈 수준에서도 강건성을 보인다.
• 노이즈가 증가함에 따라 DPFedMTL은 DPFedAvg에 비해 유틸리티 측면에서 뚜렷한 승리를 거두며, 특히 FEMNIST에서 $\sigma = 9.69$일 때 DPFedAvg의 정확도가 0.79%로 급격히 떨어지는 것을 고려할 때 뚜렷한 우월성을 보인다.
• DPFedMTL의 수렴 속도는 FedAvg와 DPFedAvg보다 빠르며, 로컬 학습 수준에 가까워 효율적인 최적화를 보여준다.
• CLT 기반 GDP 회계를 통한 비밀 보장 분석은 CelebA에서 $\sigma = 0.65$가 강력한 비밀 보장을 제공함을 보여주며, FEMNIST에서는 유사한 보호 수준을 확보하기 위해 $\sigma = 9.69$가 필요하다.
• 비볼록, 볼록, 강볼록 설정에서 리프시츠 스무쓰 목적 함수에 대해 이론적 수렴 보장을 확립하였으며, 이는 이 프레임워크에 대해 최초의 결과이다.