[논문 리뷰] Improving Privacy-Preserving Vertical Federated Learning by Efficient Communication with ADMM

Chulin Xie, Pin‐Yu Chen외 4명|arXiv (Cornell University)|2022. 07. 20.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 ADMM를 사용하여 효율적이고 저소통 학습을 가능하게 하기 위해 다중 헤드를 갖춘 수직联邦학습 프레임워크인 VIM을 제안한다. 이는 클라이언트가 다중 로컬 업데이트를 수행할 수 있도록 해, 더 빠른 수렴과 향상된 프라이버시를 달성한다. 사용자 수준의 차별적 프라이버시와 학습된 헤드 가중치를 통한 클라이언트 중요도 파악을 통해 실현된다.

ABSTRACT

Federated learning (FL) enables distributed resource-constrained devices to jointly train shared models while keeping the training data local for privacy purposes. Vertical FL (VFL), which allows each client to collect partial features, has attracted intensive research efforts recently. We identified the main challenges that existing VFL frameworks are facing: the server needs to communicate gradients with the clients for each training step, incurring high communication cost that leads to rapid consumption of privacy budgets. To address these challenges, in this paper, we introduce a VFL framework with multiple heads (VIM), which takes the separate contribution of each client into account, and enables an efficient decomposition of the VFL optimization objective to sub-objectives that can be iteratively tackled by the server and the clients on their own. In particular, we propose an Alternating Direction Method of Multipliers (ADMM)-based method to solve our optimization problem, which allows clients to conduct multiple local updates before communication, and thus reduces the communication cost and leads to better performance under differential privacy (DP). We provide the user-level DP mechanism for our framework to protect user privacy. Moreover, we show that a byproduct of VIM is that the weights of learned heads reflect the importance of local clients. We conduct extensive evaluations and show that on four vertical FL datasets, VIM achieves significantly higher performance and faster convergence compared with the state-of-the-art. We also explicitly evaluate the importance of local clients and show that VIM enables functionalities such as client-level explanation and client denoising. We hope this work will shed light on a new way of effective VFL training and understanding.

연구 동기 및 목표

• 수직联邦학습(VFL)에서 빈번한 기울기 교환으로 인해 프라이버시 예산이 급격히 고갈되는 높은 통신 비용 문제를 해결한다.
• VFL에서 통신 라운드당 다중 로컬 업데이트를 가능하게 하여 통신 빈도를 줄이고 효율성을 향상시킨다.
• 모델 및 레이블 데이터에 대해 공식적인 수렴 보장과 사용자 수준의 차별적 프라이버시(DP)를 제공한다.
• 학습된 헤드 가중치를 통해 클라이언트 중요도를 파악함으로써 클라이언트 수준의 설명 가능성 기능을 제공한다. 이는 클라이언트 노이즈 제거 및 요약과 같은 기능을 지원한다.
• 모델 분할 및 비모델 분할 VFL 설정을 모두 지원하는 통합 프레임워크를 제공한다.

제안 방법

• 각 클라이언트당 하나의 선형 헤드를 갖춘 VFL 프레임워크인 VIM을 제안하며, 각 헤드는 해당 클라이언트의 로컬 특징 기여도를 모델링한다.
• ADMM를 사용하여 전역 최적화 문제를 클라이언트별 하위문제로 분해하고, ADMM 변수를 통한 조율을 통해 반복적 업데이트를 가능하게 한다.
• 모델 분할이 가능한 VIMADMM와 그렇지 않은 VIMADMM-J를 설계하여, 로컬 업데이트를 포함한 ADMM 기반 최적화로 양식을 모두 지원한다.
• 로컬 모델 출력을 클리핑하고 노이즈를 첨가함으로써 사용자 수준의 DP를 도입하고, 공식적인 DP 보장 증명을 제공한다.
• 서버가 보유한 레이블을 보호하기 위해 ALIBI를 통한 레이블-DP를 통합하여 종단 간 프라이버시를 확보한다.
• 클라이언트 전용 헤드 가중치의 노름을 클라이언트 중요도의 대체 지표로 활용하여 클라이언트 수준 분석을 가능하게 한다.

실험 결과

연구 질문

• RQ1 ADMM 기반 최적화는 VFL에서 성능을 유지하면서도 통신 비용을 줄일 수 있는가?
• RQ2 제안된 프레임워크는 사용자 수준의 차별적 프라이버시에서 어떻게 작동하며, 프라이버시 예산 소모는 어떠한가?
• RQ3 VIM의 학습된 헤드 가중치는 특징 품질과 기여도 측면에서 클라이언트의 진정한 중요도를 반영할 수 있는가?
• RQ4 VIM은 클라이언트 수준의 기능, 예를 들어 노이즈 제거, 요약, 설명 기능을 어느 정도 지원할 수 있는가?
• RQ5 다양한 데이터셋에서 VIM은 최신 기술 기반 VFL 방법과 비교해 수렴 속도와 정확도 측면에서 어떻게 성능을 내는가?

주요 결과

• VIMADMM는 MNIST, CIFAR, NUS-WIDE, ModelNet40 등 네 가지 VFL 벤치마크 데이터셋에서 최신 기술(SOTA) 방법보다 유의미하게 더 빠른 수렴 속도와 높은 정확도를 달성한다.
• MNIST에서 헤드 가중치 노름 기반으로 가장 중요한 50%의 클라이언트만을 사용해 훈련해도 테스트 정확도 저하가 1% 미만이며, 중요도가 높은 20%의 클라이언트만으로도 88% 이상의 정확도를 확보한다.
• 가장 중요도가 낮은 50%의 클라이언트만을 사용해 훈련한 모델은 MNIST에서 정확도가 78.11%에 그치며, 헤드 가중치 기반 클라이언트 선택의 효과를 확인한다.
• 높은 가중치를 가진 클라이언트의 특징을 훼손시키면 낮은 가중치 클라이언트를 훼손시키는 것보다 테스트 정확도 저하가 더 크며, 이는 헤드 가중치가 클라이언트 중요도를 올바르게 반영함을 검증한다.
• VIMADMM는 훈련 중에 노이즈가 있는 클라이언트를 탐지하고 가중치를 낮춰주는 것을 확인했으며, 깨끗한 클라이언트 대비 노이즈가 있는 클라이언트의 헤드 가중치가 감소한 것으로 나타났다.
• 프레임워크는 클라이언트 노이즈 제거를 지원한다. 노이즈가 있는 클라이언트를 포함해도 기준 모델보다 더 빠르게 수렴하고 더 높은 정확도를 달성함으로써 데이터 품질 변동에 대한 강건성을 입증한다.