[논문 리뷰] Private Multi-Task Learning: Formulation and Applications to Federated Learning

Shengyuan Hu, Zhiwei Steven Wu외 1명|arXiv (Cornell University)|2021. 08. 30.

Privacy-Preserving Technologies in Data참고 문헌 38인용 수 4

한 줄 요약

이 논문은 빌보드 프라이버시(Billboard Privacy, BP)를 통해 클라이언트 수준의 프라이버시를 보장하면서도 각 클라이언트의 데이터에 의존하는 개인화 모델을 허용하는 새로운 프레임워크인 프라이빗 평균 정규화 다중작업 학습(PMTRL)을 제안한다. FEMNIST, CelebA, StackOverflow 벤치마크에서 전역 기준 모델과 비슷한 수준의 프라이버시-유용성 트레이드오프를 달성하며, 강한 프라이버시 제약 조건 하에서 프라이빗 전역 모델과 로컬 학습보다 뛰어난 성능을 보인다.

ABSTRACT

Many problems in machine learning rely on multi-task learning (MTL), in which the goal is to solve multiple related machine learning tasks simultaneously. MTL is particularly relevant for privacy-sensitive applications in areas such as healthcare, finance, and IoT computing, where sensitive data from multiple, varied sources are shared for the purpose of learning. In this work, we formalize notions of client-level privacy for MTL via joint differential privacy (JDP), a relaxation of differential privacy for mechanism design and distributed optimization. We then propose an algorithm for mean-regularized MTL, an objective commonly used for applications in personalized federated learning, subject to JDP. We analyze our objective and solver, providing certifiable guarantees on both privacy and utility. Empirically, we find that our method provides improved privacy/utility trade-offs relative to global baselines across common federated learning benchmarks.

연구 동기 및 목표

• 의료, 금융, IoT와 같은 프라이버시 민감한 도메인에서 다중작업 학습(MTL)의 공식적 프라이버시 보장이 부족한 문제를 해결하기 위해.
• 다른 작업에 영향을 주지 않도록 한 클라이언트의 데이터 변화에 민감하지 않은 빌보드 프라이버시(BP)를 사용하여 MTL에서 클라이언트 수준의 프라이버시를 공식화하기 위해.
• 증명 가능한 $(\epsilon,\delta)$-빌보드 프라이버시를 제공하는, 확장성 있고 통신 효율적인 평균 정규화 MTL를 위한 해법을 개발하기 위해.
• 기존 전역 기준 모델과 로컬 학습 대비 표준 피벗러벌러닝 벤치마크에서 제안된 방법의 프라이버시-유용성 트레이드오프를 실증적으로 평가하기 위해.
• 개인화된 피벗러벌러닝에서 프라이빗 MTL이 MTL의 정확도 이점을 유지하면서도 단일 전역 모델을 학습하는 것보다 더 강력한 프라이버시를 제공할 수 있음을 보여주기 위해.

제안 방법

• 모든 작업 간 유사성을 유도하기 위해 평균 정규화 항을 사용하여 전역 모델과 클라이언트별 전용 모델을 동시에 최적화하는 프라이빗 평균 정규화 MTL 프레임워크를 제안한다.
• 모든 작업 중 하나를 제외한 나머지 작업의 출력 모델이 단일 클라이언트의 데이터 변화에 민감하지 않도록 보장하기 위해 빌보드 프라이버시(BP)를 적용한다. 이는 클라이언트 수준의 프라이버시를 가능하게 한다.
• 차별적 프라이버시 보장을 갖춘 평균 정규화 MTL 목표 함수를 처리할 수 있도록 FedAvg 기반의 통신 효율적인 해법을 개선한다.
• 부분적 클라이언트 참여 상황을 고려한 볼록 및 비볼록 목표 함수에 대한 수렴 분석을 도입한다.
• $(\epsilon,\delta)$-빌보드 프라이버시를 만족하기 위해 전역 모델 업데이트 단계에서 노이즈를 주입하며, 노이즈 스케일을 통해 프라이버시 예산을 제어한다.
• 학습 후 피팅을 통해 모델 개인화를 지원하며, BP 프레임워크 하에서 추가 프라이버시 비용이 발생하지 않는다.

실험 결과

연구 질문

• RQ1 다중작업 학습을 클라이언트 수준에서 개인화하면서도 모델의 유용성을 유지할 수 있는가?
• RQ2 빌보드 프라이버시를 평균 정규화 MTL에 공식적으로 적용하여 클라이언트의 데이터가 보호될 수 있도록 할 수 있는가?
• RQ3 프라이빗 MTL에서 프라이버시(측정 기준: $\epsilon$)와 유용성(측정 기준: 테스트 정확도) 간의 트레이드오프는 프라이빗 전역 모델 대비 어떻게 되는가?
• RQ4 강한 프라이버시 제약 조건 하에서 프라이빗 MTL이 로컬 학습 및 프라이빗 전역 기준 모델보다 피벗러벌러닝 벤치마크에서 더 나은 성능을 보일 수 있는가?
• RQ5 제안된 방법은 개인화된 피벗러벌러닝에서 PP-SGD와 같은 기존 방법보다 더 나은 프라이버시-유용성 트레이드오프를 달성할 수 있는가?

주요 결과

• FEMNIST 벤치마크에서 PMTL는 $\epsilon = 2.0$ 조건 하에 테스트 정확도 0.681을 달성하여 프라이빗 FedAvg와 FedProx보다 뚜렷이 뛰어나다.
• CelebA에서 PMTL는 $\epsilon = 2.0$ 조건 하에 테스트 정확도 0.818을 기록하며, 프라이빗 전역 모델과 로컬 학습을 모두 뛰어넘는다.
• StackOverflow에서 PMTL는 $\epsilon = 0.1$ 조건 하에 테스트 정확도 0.324를 달성하며, 프라이빗 FedAvg와 FedProx보다 뛰어나다. 이들의 정확도는 0.31 이하로 떨어진다.
• $\epsilon < 1$ 조건에서 PP-SGD는 PMTL보다 악화된 프라이버시-유용성 트레이드오프를 보이며, PMTL의 뛰어난 프라이버시 효율성을 시사한다.
• 강한 프라이버시($\epsilon = 0.1$) 조건 하에서도, 피팅을 통한 PMTL는 FEMNIST와 CelebA와 같은 비볼록 문제에서 순수한 로컬 학습보다 일관되게 뛰어난 성능을 보인다.
• 수렴 분석 결과, 부분적 클라이언트 참여 상황에서도 볼록 및 비볼록 설정 모두에서 해법이 수렴 보장을 유지함을 확인하였다.