[논문 리뷰] Faithful Edge Federated Learning: Scalability and Privacy

Meng Zhang, Ermin Wei외 1명|arXiv (Cornell University)|2021. 06. 30.

Privacy-Preserving Technologies in Data참고 문헌 48인용 수 4

한 줄 요약

이 논문은 비.i.i.d. 및 불균형 데이터 하에서 신뢰할 수 있는 참여와 실행을 보장하는 최초의 메커니즘인 신뢰성 있는 엣지 분산 학습(FFL)과 그 비밀성 보장 버전(DP-FFL)을 제안한다. 점진적 계산과 클러스터링을 통해 VCG 지불을 근사화함으로써 FFL은 $Ø(\log K)$ 시간 복잡도를 달성하며, 정직한 구현, 자율적 참여, 개인정보 보호를 동시에 확보한다. 이는 비밀성, 수렴 속도, 지불 정확도 손실 사이의 삼중적 트레이드오프를 수립한다.

ABSTRACT

Federated learning enables machine learning algorithms to be trained over a network of multiple decentralized edge devices without requiring the exchange of local datasets. Successfully deploying federated learning requires ensuring that agents (e.g., mobile devices) faithfully execute the intended algorithm, which has been largely overlooked in the literature. In this study, we first use risk bounds to analyze how the key feature of federated learning, unbalanced and non-i.i.d. data, affects agents' incentives to voluntarily participate and obediently follow traditional federated learning algorithms. To be more specific, our analysis reveals that agents with less typical data distributions and relatively more samples are more likely to opt out of or tamper with federated learning algorithms. To this end, we formulate the first faithful implementation problem of federated learning and design two faithful federated learning mechanisms which satisfy economic properties, scalability, and privacy. Further, the time complexity of computing all agents' payments in the number of agents is $\mathcal{O}(1)$. First, we design a Faithful Federated Learning (FFL) mechanism which approximates the Vickrey-Clarke-Groves (VCG) payments via an incremental computation. We show that it achieves (probably approximate) optimality, faithful implementation, voluntary participation, and some other economic properties (such as budget balance). Second, by partitioning agents into several subsets, we present a scalable VCG mechanism approximation. We further design a scalable and Differentially Private FFL (DP-FFL) mechanism, the first differentially private faithful mechanism, that maintains the economic properties. Our mechanism enables one to make three-way performance tradeoffs among privacy, the iterations needed, and payment accuracy loss.

연구 동기 및 목표

• 비.i.i.d. 및 불균형 데이터 분포 상에서 에이전트가 자율적으로 참여하거나 정직하게 분산 학습 알고리즘을 수행하도록 보장하는 인센티브 메커니즘이 부족한 문제를 해결하기 위해.
• 전략적 행동을 하는 에이전트 상황에서도 자율적 참여와 정직한 실행을 보장하는 메커니즘을 설계하기 위해.
• 스케일러빌리티와 차별적 비밀성 보장을 유지하면서 예산 균형과 근사 최적성과 같은 핵심 경제적 성질을 유지하기 위해.
• 차별적 비밀성 환경에서 비밀성, 수렴 속도, 지불 정확도 손실 사이의 삼중적 트레이드오프를 가능하게 하기 위해.

제안 방법

• 신뢰성 있는 분산 학습(FFL) 메커니즘을 제안하여, 점진적 계산을 통해 비크레이-클라크-그로브즈(VCG) 지불을 근사화함으로써 정직한 보고와 정직한 실행을 보장한다.
• 메커니즘의 확장성을 높이기 위해 클러스터링 기반의 VCG 근사 기법을 도입하여 에이전트 수 $K$에 대해 시간 복잡도를 $Ø(\log K)$로 감소시킨다.
• 지불 메커니즘에 보정된 노이즈를 추가하여 차별적 비밀성을 확보한 변형인 DP-FFL을 설계함으로써 경제적 성질을 유지하고 비밀성-정확도-수렴 속도 트레이드오프를 가능하게 한다.
• 비.i.i.d. 데이터 하에서 에이전트의 인센티브를 분석하기 위해 리스크 경계를 활용하여, 더 이상 전형적이지 않거나 더 많은 샘플을 가진 에이전트일수록 참여를 포기하거나 조작할 가능성이 높다는 것을 밝혀냈다.
• 전체 모델 향상에 기여하는 에이전트의 마진널 기여도를 기반으로 한 지불 메커니즘을 도입하여 점진적 업데이트를 통해 계산 비용을 감소시켰다.
• 에이전트의 기여도가 드러나지 않도록 지불 메커니즘에 라플라스 노이즈를 추가함으로써 차별적 비밀성을 적용했다.

실험 결과

연구 질문

• RQ1 불균형하고 비.i.i.d. 데이터 분포는 어떻게 에이전트의 자율적 참여나 정직한 분산 학습 실행을 저해하는가?
• RQ2 에 bord에서의 확장성과 비밀성 보장을 유지하면서도 정직한 실행을 보장하는 메커니즘을 설계할 수 있는가?
• RQ3 차별적 비밀성 환경에서 정직한 분산 학습 메커니즘에서 비밀성, 수렴 속도, 지불 정확도 손실 사이의 트레이드오프는 무엇인가?
• RQ4 기본 기반의 분산 학습(FedAvg)과 국소 학습 대비 제안된 메커니즘은 성능과 에이전트의 인센티브 측면에서 어떻게 비교되는가?

주요 결과

• FFL 메커니즘은 (약간의 근사가 있을 수 있지만) 최적성, 정직한 실행, 자율적 참여, 예산 균형을 달성하며, 에이전트 수에 대해 $Ø(\log K)$ 시간 복잡도를 가진다.
• DP-FFL 메커니즘은 차별적 비밀성이 보장되는 최초의 정직한 분산 학습 메커니즘으로, 비밀성, 수렴 반복 횟수, 지불 정확도 손실 사이의 삼중적 트레이드오프를 가능하게 한다.
• FFL과 DP-FFL는 모두 비정상적인 FedAvg와 국소 학습보다 전반적인 전역 손실과 테스트 정확도 측면에서 뚜렷이 뛰어나며, 특히 중간 수준의 데이터 이질성($\Delta \leq 0.15$) 상황에서 두드러진다.
• 데이터 이질성이 높을 경우($\Delta \geq 0.15$), 국소 학습이 분산 학습을 능가할 수 있지만, FFL과 DP-FFL는 여전히 비정상적인 FedAvg보다 더 나은 성능을 보인다.
• 지불 정확도 손실은 높은 비밀성 위험 $\alpha$와 더 많은 클러스터 수 $L$에서 감소하며, $L \geq 4$일 경우 낮은 손실을 유지하는 데 충분하다.
• 학습 샘플 수 $n$은 국소 학습과 비정상적인 FedAvg에 비해 FFL 또는 DP-FFL에 더 큰 영향을 미치며, 이는 제안된 메커니즘이 데이터 불균형에 더 강건하다는 것을 시사한다.