[논문 리뷰] ByGARS: Byzantine SGD with Arbitrary Number of Attackers

Jayanth Reddy Regatti, Hao Chen외 1명|arXiv (Cornell University)|2020. 06. 24.

Privacy-Preserving Technologies in Data참고 문헌 41인용 수 8

한 줄 요약

이 논문은 분산 기계 학습을 위한 두 가지 강건한 확률적 경사 하강 알고리즘인 ByGARS와 ByGARS++를 제안한다. 이 알고리즘은 보조 데이터셋에서 유도된 명성 점수를 사용하여, 임의의 수의 바르비시언 공격자와도 상호작용할 수 있도록 한다. 명성 점수는 보조 기울기와의 내적을 통해 계산되며, 이는 가중치가 부여된 집약을 가능하게 하여 강력한 볼록성 조건 하에서 수렴성과 다양한 공격에 대한 강건성을 보장한다. 이는 반반 이상의 워커가 악성일 경우에도 성립한다.

ABSTRACT

We propose two novel stochastic gradient descent algorithms, ByGARS and ByGARS++, for distributed machine learning in the presence of any number of Byzantine adversaries. In these algorithms, reputation scores of workers are computed using an auxiliary dataset at the server. This reputation score is then used for aggregating the gradients for stochastic gradient descent. The computational complexity of ByGARS++ is the same as the usual distributed stochastic gradient descent method with only an additional inner product computation in every iteration. We show that using these reputation scores for gradient aggregation is robust to any number of multiplicative noise Byzantine adversaries and use two-timescale stochastic approximation theory to prove convergence for strongly convex loss functions. We demonstrate the effectiveness of the algorithms for non-convex learning problems using MNIST and CIFAR-10 datasets against almost all state-of-the-art Byzantine attacks. We also show that the proposed algorithms are robust to multiple different types of attacks at the same time.

연구 동기 및 목표

• 기존 바르비시언 강건 방법이 반 이상의 워커가 악성일 수 없다는 가정을 하고 있다는 한계를 해결하기 위해.
• 모든 수의 바르비시언 대상자에 대해 강건한 기울기 집약 메커니즘을 개발하기 위해.
• 딥 러닝 기반의 MNIST 및 CIFAR-10 학습 설정에서 다양한 공격 모델 하에서도 수렴성과 강건한 성능을 유도하기 위해.
• 중위수 또는 다수결 투표와 같은 가정에 의존하지 않고, 대신 명성 기반 가중 평균을 사용하는 방어 체계를 설계하기 위해.

제안 방법

• 서버는 훈련 데이터와 동일한 분포에서 추출된 소규모 보조 데이터셋을 유지하여 기준 기울기를 계산한다.
• 각 워커의 명성 점수는 그 기울기와 보조 기울기 사이의 내적을 통해 계산되며, 이는 진정한 최적화 방향과의 일치도를 반영한다.
• 명성 점수는 기울기 집약에 가중치로 사용되며, 음수 점수는 악성 기여를 억제한다.
• ByGARS++는 명성 점수와 모델 파라미터를 동시에 업데이트하기 위해 이중 시간 척도 확률적 근사 기법을 사용하여 강력한 볼록성 조건 하에서 수렴성을 보장한다.
• 기하학적 중위수나 노름 기반 필터링에 의존하지 않고, 대신 방향성 일치도를 강건성 기준으로 사용한다.
• 강력한 볼록 목표 함수에 대해 이중 시간 척도 확률적 근사 이론을 활용하여 이론적 수렴성을 증명한다.

실험 결과

연구 질문

• RQ1 모든 워커의 절반 이상이 바르비시언 공격자일 경우에도 분산 SGD 알고리즘이 강건하고 수렴할 수 있는가?
• RQ2 보조 데이터에서 유도된 명성 점수는 임의의 악성 기울기 존재 조건에서 기울기 집약을 어떻게 향상시킬 수 있는가?
• RQ3 제안된 방법은 혼합 또는 다중 유형의 바르비시언 공격(예: 기울기 부호 반전, 레이블 뒤집기, 일정 또는 가우시안 노이즈 주입 등) 하에서도 성능을 유지하는가?
• RQ4 공격 비율 f=0.5일 때 LIE 공격에 대해 왜 성능이 떨어지는가? 그 배경에 있는 제약 조건은 무엇인가?
• RQ5 공격이 없을 경우에도 명성 기반 집약이 표준 기준보다 뛰어나게 작동할 수 있으며, 성능 저하 없이 성능 향상을 이룰 수 있는가?

주요 결과

• ByGARS와 ByGARS++는 MNIST 및 CIFAR-10에서 일곱 명의 워커가 모두 악성일 경우에도 강건한 수렴성을 보이며, 기준 평균화 및 중위수 집약보다 뛰어난 성능을 보였다.
• 이 알고리즘은 기울기 부호 반전, 레이블 뒤집기, 가우시안 노이즈, 일정 기울기, 혼합 공격 등 모든 테스트된 바르비시언 공격에 대해 강건성을 유지했으며, f=0.5일 때 LIE 공격 제외.
• 악성 워커 비율이 0.5를 초과할 경우 중위수 기반 집약은 완전히 실패하는 반면, ByGARS와 ByGARS++는 높은 정확도를 유지하여 고악성 환경에서의 우수성을 입증했다.
• 공격이 없을 경우 두 알고리즘이 표준 기준과 유사한 성능을 보이며, 명성 메커니즘이 성능 저하를 유발하지 않음을 보여주었다.
• f=0.5일 때 LIE 공격 하에서도 명성 점수가 균형을 유지하여, 방어가 노름 또는 크기 기반 필터링이 아니라 보조 기울기와의 방향성 일치도에 기반함을 시사한다.
• 강력한 볼록 문제에 대한 시뮬레이션을 통해 ByGARS와 ByGARS++가 임의의 수의 공격자 존재 조건 하에서도 최적 해에 수렴함을 확인하여 이론적 주장의 타당성을 검증했다.