[논문 리뷰] BRIDGE: Byzantine-resilient Decentralized Gradient Descent

Cheng Fang, Zhixiong Yang외 1명|arXiv (Cornell University)|2019. 08. 21.

Sparse and Compressive Sensing Techniques인용 수 20

한 줄 요약

이 논문은 분산 기계 학습 시스템에서 임의의 노드 장애가 발생하더라도 수렴을 보장하는 비잔틴 내성 분산 경사 하강 프레임워크인 BRIDGE를 제안한다. 이는 강력한 볼록 문제와 비볼록 문제 모두에 대해 증명 가능한 수렴성을 보이며, 수렴 속도가 O(log t / t)로 하위선형이므로 실세계 네트워크에서 악성 행동에 대해 스케일러블하고 강건하다.

ABSTRACT

Machine learning has begun to play a central role in many applications. A multitude of these applications typically also involve datasets that are distributed across multiple computing devices/machines due to either design constraints (e.g., multiagent systems) or computational/privacy reasons (e.g., learning on smartphone data). Such applications often require the learning tasks to be carried out in a decentralized fashion, in which there is no central server that is directly connected to all nodes. In real-world decentralized settings, nodes are prone to undetected failures due to malfunctioning equipment, cyberattacks, etc., which are likely to crash non-robust learning algorithms. The focus of this paper is on robustification of decentralized learning in the presence of nodes that have undergone Byzantine failures. The Byzantine failure model allows faulty nodes to arbitrarily deviate from their intended behaviors, thereby ensuring designs of the most robust of algorithms. But the study of Byzantine resilience within decentralized learning, in contrast to distributed learning, is still in its infancy. In particular, existing Byzantine-resilient decentralized learning methods either do not scale well to large-scale machine learning models, or they lack statistical convergence guarantees that help characterize their generalization errors. In this paper, a scalable, Byzantine-resilient decentralized machine learning framework termed Byzantine-resilient decentralized gradient descent (BRIDGE) is introduced. Algorithmic and statistical convergence guarantees for one variant of BRIDGE are also provided in the paper for both strongly convex problems and a class of nonconvex problems. In addition, large-scale decentralized learning experiments are used to establish that the BRIDGE framework is scalable and it delivers competitive results for Byzantine-resilient convex and nonconvex learning.

연구 동기 및 목표

• 비잔틴 장애 상황에서, 즉 노드가 손상되거나 고장 나면서 프로토콜에서 임의로 벗어날 수 있는 상황에서의 강건한 분산 기계 학습 알고리즘 부족 문제를 해결하기 위해.
• 일부 노드가 비잔틴 행동을 보일 경우에도 수렴을 유지할 수 있는 확장 가능한 분산 최적화 프레임워크를 개발하기 위해.
• 비잔틴 조건 하에서 볼록 및 비볼록 손실 함수에 대해 수렴 속도와 통계적 성능에 대한 이론적 보장을 제공하기 위해.
• 비잔틴 내성 분산 학습과 분산 학습 간 격차를 메우기 위해, 이전 연구에서 스케일러비리티나 수렴 분석 부족 문제를 해결하기 위해.

제안 방법

• BRIDGE는 중앙 서버 없이 분산 경사 하강 프레임워크를 사용하여 노드 간 피어 투 피어 통신을 가능하게 한다.
• 지역 공감 및 경사 크기 제약 조건을 활용하여 악성 업데이트를 걸러내는 강력한 집계 규칙을 통합한다.
• 수렴을 보장하기 위해 감소하는 스텝 사이즈와 적응형 가중치 업데이트를 사용하여 비잔틴 노드가 임의의 경사를 주입하더라도 영향을 최소화한다.
• 안정성과 수렴 분석을 위해 라플라스 함수를 사용하는 것이 핵심 구성 요소이며, 이는 국소 모델이 최적 해에서 벗어나지 않도록 편차를 제한한다.
• 손상된 경사의 영향을 매개변수화된 감쇠 함수를 통해 제한함으로써 내성 메커니즘을 도입한다.
• 비잔틴 노이즈와 확률적 경사 하강 분산을 모두 고려한 재귀적 오차 경계를 통해 수렴을 확립한다.

실험 결과

연구 질문

• RQ1 일부 노드가 비잔틴 행동을 보일 경우, 즉 프로토콜에서 임의로 벗어나는 경우, 분산 학습 알고리즘이 수렴을 유지할 수 있는가?
• RQ2 비잔틴 내성 분산 최적화 알고리즘의 수렴 속도는 볼록 및 비볼록 문제 모두에서 어떻게 되는가?
• RQ3 중앙 조정자나 신뢰할 수 있는 서버에 의존하지 않고도 분산 시스템에서 강건성을 달성할 수 있는 방법은 무엇인가?
• RQ4 비잔틴 장애 존재 상황에서 일반화 오차와 샘플 복잡도에 대해 어떤 이론적 보장을 제공할 수 있는가?
• RQ5 제안된 프레임워크는 악성 조건 하에서 대규모 기계 학습 모델에 어떻게 스케일링되는가?

주요 결과

• BRIDGE는 강력한 볼록 문제와 일부 비볼록 문제 클래스에 대해 O(log t / t)의 수렴 속도를 달성하여, 비잔틴 장애 하에서도 하위선형이지만 증명 가능한 수렴성을 보여준다.
• 최대 일정 비율의 노드가 비잔틴일 경우에도, 고장이 없는 모든 노드가 최적 해로 수렴할 확률이 최소 1−δ임을 보장한다.
• 이론적 분석을 통해 오차 경계가 시간이 지남에 따라 단조 감소하며, 가장 느리게 감쇠하는 항목이 O(log t / t)임을 확인하여 전체 수렴 속도를 이에 따라 규정한다.
• 실증 평가 결과, BRIDGE는 대규모 분산 학습 작업에 잘 스케일링되며, 볼록 및 비볼록 환경 모두에서 경쟁 가능한 성능을 보여준다.
• 집계 규칙의 영향 제한 메커니즘 덕분에, 비잔틴 노드가 큰 크기의 악성 경사를 주입하더라도 알고리즘이 강건함을 유지한다.
• 단일 노드 비잔틴 공격에 대해서도 프레임워크가 내성적임을 입증하였으며, 이는 기존의 분산 학습 알고리즘이 파손될 수 있는 상황이다.