[논문 리뷰] Byzantine-resilient Decentralized Stochastic Gradient Descent

Shangwei Guo, Tianwei Zhang외 5명|arXiv (Cornell University)|2020. 02. 20.

Privacy-Preserving Technologies in Data참고 문헌 51인용 수 5

한 줄 요약

이 논문은 분산형 확률적 경사 하강법에서 악성 노드가 손상된 업데이트를 필터링하고, 임의의 바르비시안 공격 조건에서도 모델 정확성을 유지할 수 있도록 보장하는 새로운 바르비시안 내성 집합 규칙인 Ubar를 제안한다. Ubar는 낮은 계산 오버헤드로 강력한 내성을 달성하며, 다양한 공격 유형과 시스템 구성에서 수렴성과 내성 면에서 기존 방법들을 능가한다.

ABSTRACT

Decentralized learning has gained great popularity to improve learning efficiency and preserve data privacy. Each computing node makes equal contribution to collaboratively learn a Deep Learning model. The elimination of centralized Parameter Servers (PS) can effectively address many issues such as privacy, performance bottleneck and single-point-failure. However, how to achieve Byzantine Fault Tolerance in decentralized learning systems is rarely explored, although this problem has been extensively studied in centralized systems. In this paper, we present an in-depth study towards the Byzantine resilience of decentralized learning systems with two contributions. First, from the adversarial perspective, we theoretically illustrate that Byzantine attacks are more dangerous and feasible in decentralized learning systems: even one malicious participant can arbitrarily alter the models of other participants by sending carefully crafted updates to its neighbors. Second, from the defense perspective, we propose UBAR, a novel algorithm to enhance decentralized learning with Byzantine Fault Tolerance. Specifically, UBAR provides a Uniform Byzantine-resilient Aggregation Rule for benign nodes to select the useful parameter updates and filter out the malicious ones in each training iteration. It guarantees that each benign node in a decentralized system can train a correct model under very strong Byzantine attacks with an arbitrary number of faulty nodes. We conduct extensive experiments on standard image classification tasks and the results indicate that UBAR can effectively defeat both simple and sophisticated Byzantine attacks with higher performance efficiency than existing solutions.

연구 동기 및 목표

• 중앙 집중식 파rameter 서버가 존재하지 않는 분산 학습 시스템에서 바르비시안 공격의 가능성과 심각성을 조사한다.
• 중앙 집중식 시스템에서 잘 연구된 바와는 달리, 분산 학습에서 바르비시안 장애 내성 메커니즘이 부족한 문제를 해결한다.
• 네트워크에 임의의 수의 바르비시안 노드가 존재하더라도 정확한 모델 학습을 보장하는 방어 메커니즘을 설계한다.
• 악성 업데이트를 필터링하면서도 높은 성능을 유지하는 효율적인 집합 규칙을 설계한다.
• 다양한 공격 모델과 시스템 구성 조건에서 제안된 방법의 내성과 효율성을 평가한다.

제안 방법

• Ubar는 각 양호한 노드가 국소적 이웃 비교를 기반으로 악성 파rameter 업데이트를 식별하고 필터링할 수 있도록 하는 통일된 바르비시안 내성 집합 규칙을 도입한다.
• 노드의 모델 업데이트와 이웃 노드의 업데이트 간의 차이를 계산하여 바르비시안 행동을 나타내는 이질적 값을 탐지하고 제거한다.
• 기존 바르비시안 방어 문헌에서 흔히 사용되는 바와 같이, 양호한 이웃 비율($\rho_i$)을 알고 있음을 가정하여 내성 임계값을 설정한다.
• 모든 학습 반복 과정에서 작동하여, 많은 수의 이웃 노드가 손상된 경우에도 노드들이 협동적으로 정확한 모델을 학습할 수 있도록 한다.
• DKrum과 DBulyan과 달리 모든 이웃 간의 쌍별 거리 비교를 피하므로 계산 효율성이 높다.
• 전역 협업이나 모델 재구성 없이 국소 일관성 검사를 통해 악성 업데이트를 탐지한다.

실험 결과

연구 질문

• RQ1 중앙 집중식 시스템과 비교해 분산 학습 시스템에서 바르비시안 공격의 심각성과 실현 가능성은 어떠한가?
• RQ2 중앙 집중식 시스템에서의 기존 바르비시안 내성 방어 기법을 분산 학습 환경에 직접 적용할 수 있는가?
• RQ3 단일 악성 노드가 전역 모델을 임의로 변경할 수 있도록 허용하는 분산 시스템의 핵심 취약점은 무엇인가?
• RQ4 임의의 수의 바르비시안 노드가 존재하더라도 분산 시스템이 모델 정확성과 수렴성을 유지할 수 있는가?
• RQ5 다양한 공격 유형에서 제안된 방어 기법 Ubar는 기존 최첨단 방어 기법과 비교해 내성과 효율성 면에서 어떻게 다른가?

주요 결과

• Ubar는 Mhamdi 공격과 같은 단순 및 고도의 공격을 성공적으로 저지하며, 기존 대부분의 중앙 집중식 방어 기법이 회피하는 공격에도 효과적이다.
• CIFAR-10과 MNIST에서 Ubar는 50%의 바르비시안 비율 조건에서도 기준 성능과 동일한 수렴 성능을 유지하지만, 모든 기준 기법은 동일 조건에서 수렴하지 못한다.
• 비트 플립 공격 조건에서 Ubar는 모든 바르비시안 비율에서 기준 성능과 동일한 성능을 달성하여 절대적인 내성을 입증한다. 반면 Dmedian과 DBulyan은 비율이 0.3를 초과하면 수렴하지 못한다.
• Ubar는 쌍별 비교를 피함으로써 DKrum 대비 8배, DBulyan 대비 30배 더 빠른 집합 시간을 확보한다.
• BRIDGE와 Dmedian은 고비율 바르비시안 공격(예: CIFAR-10에서 0.1) 조건에서 수렴성이 열악한 반면, Ubar는 모든 테스트 구성에서 안정적인 성능을 유지한다.
• Ubar는 수용 가능한 계산 비용으로 강력한 바르비시안 내성을 확보하여, 내성과 효율성 측면에서 평가된 방어 기법들 중 최적의 성능을 기록한다.