[논문 리뷰] Incentive Mechanism for Privacy-Preserving Federated Learning.

Shuyuan Zheng, Yang Cao외 1명|arXiv (Cornell University)|2021. 06. 08.

Privacy-Preserving Technologies in Data참고 문헌 33인용 수 4

한 줄 요약

이 논문은 로컬 차별적 프라이버시(LDP)를 통해 데이터 소유자의 프라이버시 손실을 정량화하고 개인화된 보상 제공을 통해 인cent리브 메커니즘과 프라이버시 보호를 동시에 해결하는 새로운 프레임워크인 FL-Market을 제안한다. 딥 러닝 기반 경매 메커니즘을 활용해 더 적은 노이즈를 가진 기울기 기여를 유도함으로써 높은 모델 유틸리티와 맞춤형 프라이버시 보호를 달성한다.

ABSTRACT

Federated learning (FL) is an emerging paradigm for machine learning, in which data owners can collaboratively train a model by sharing gradients instead of their raw data. Two fundamental research problems in FL are incentive mechanism and privacy protection. The former focuses on how to incentivize data owners to participate in FL. The latter studies how to protect data owners' privacy while maintaining high utility of trained models. However, incentive mechanism and privacy protection in FL have been studied separately and no work solves both problems at the same time. In this work, we address the two problems simultaneously by an FL-Market that incentivizes data owners' participation by providing appropriate payments and privacy protection. FL-Market enables data owners to obtain compensation according to their privacy loss quantified by local differential privacy (LDP). Our insight is that, by meeting data owners' personalized privacy preferences and providing appropriate payments, we can (1) incentivize privacy risk-tolerant data owners to set larger privacy parameters (i.e., gradients with less noise) and (2) provide preferred privacy protection for privacy risk-averse data owners. To achieve this, we design a personalized LDP-based FL framework with a deep learning-empowered auction mechanism for incentivizing trading gradients with less noise and optimal aggregation mechanisms for model updates. Our experiments verify the effectiveness of the proposed framework and mechanisms.

연구 동기 및 목표

• 기존 페더레이티드 러닝 시스템이 인센티브 메커니즘과 프라이버시 보호 문제를 별개로 다루는 격차를 해소하기 위해.
• 데이터 소유자의 참여를 동시에 유도하고 개인의 리스크 선호도에 따라 프라이버시를 보호하는 통합 프레임워크를 설계하기 위해.
• 로컬 차별적 프라이버시(LDP)를 사용해 프라이버시 손실을 정량화함으로써 데이터 소유자가 자신의 프라이버시 손실 비례로 보상을 받을 수 있도록 하기 위해.
• 기여한 기울기의 품질(노이즈 수준)에 따라 최적의 보상을 결정하는 경매 메커니즘을 개발하여 참가 유도를 위해.
• 개별 프라이버시 수준과 보상 전략을 학습 과정에 통합함으로써 최적의 모델 집합을 보장하기 위해.

제안 방법

• 데이터 소유자가 기울기를 거래함으로써 프라이버시 손실에 비례한 보상 수령을 가능하게 하는 마켓 기반 프레임워크인 FL-Market을 도입한다.
• 개별 데이터 소유자의 프라이버시 리스크를 정량화하고 관리하기 위해 로컬 차별적 프라이버시(LDP)를 활용하며, 개인화된 프라이버시 파라미터를 허용한다.
• 참가자가 기여한 기울기의 품질(노이즈 수준)에 따라 최적의 보상을 결정하는 딥 러닝 기반 경매 메커니즘을 설계한다.
• 프라이버시 수준과 기여 품질을 모두 고려해 모델 업데이트를 가중하는 최적의 집합 메커니즘을 사용하여 글로벌 모델 유틸리티를 향상시킨다.
• 학습 루프에 개인화된 프라이버시 선호도를 통합하여, 프라이버시에 민감한 사용자는 더 엄격한 프라이버시 파라미터를 설정할 수 있도록 하되, 여전히 보상 수령이 가능하도록 한다.

실험 결과

연구 질문

• RQ1 개별 데이터 소유자의 프라이버시 선호도를 고려한 페더레이티드 러닝의 인센티브 메커니즘을 어떻게 설계할 수 있는가?
• RQ2 LDP를 통한 개인화된 프라이버시 손실 정량화가 모델 유틸리티와 참가자 참여에 어떤 영향을 미치는가?
• RQ3 경매 기반 보상 시스템이 더 높은 품질(더 적은 노이즈)의 기울기를 기여하도록 효과적으로 유도할 수 있는가?
• RQ4 개인화된 프라이버시 및 보상 메커니즘의 통합이 페더레이티드 모델의 전체 성능과 수렴 속도에 어떤 영향을 미치는가?
• RQ5 페더레이티드 러닝 환경에서 프라이버시 보호, 모델 유틸리티, 참가자 인cent리브 사이의 상충 관계는 무엇인가?

주요 결과

• 제안된 FL-Market 프레임워크는 로컬 차별적 프라이버시(LDP)로 측정된 프라이버시 손실에 비례하는 보상 정책을 통해 데이터 소유자의 참여를 성공적으로 유도한다.
• 프라이버시 리스크를 잘 견디는 참가자들은 더 높은 보상으로 더 적은 노이즈를 가진 기울기를 기여함으로써 모델 유틸리티를 향상시킨다.
• 프라이버시 리스크에 민감한 참가자들은 더 엄격한 LDP 파라미터로 보호되어 데이터가 잘 보호되며, 참여에는 영향을 주지 않는다.
• 딥 러닝 기반 경매 메커니즘은 고품질 기울기 기여를 효과적으로 식별하고 보상함으로써 더 빠른 수렴과 높은 모델 정확도를 이끌어낸다.
• 최적의 집합 메커니즘은 프라이버시 수준과 데이터 품질을 모두 고려해 업데이트를 가중함으로써 글로벌 모델 유틸리티를 향상시켜 더 나은 모델 성능을 달성한다.