[논문 리뷰] Fall of Empires: Breaking Byzantine-tolerant SGD by Inner Product Manipulation

Cong Xie, Oluwasanmi Koyejo외 1명|arXiv (Cornell University)|2019. 03. 10.

Privacy-Preserving Technologies in Data참고 문헌 10인용 수 70

한 줄 요약

이 논문은 내적 조작이 두 가지 Byzantine-tolerant SGD 방어책(좌표별 중앙값과 Krum)을 깨뜨릴 수 있음을 입증하고, 이론과 CIFAR-10 실험으로 뒷받침되는 수정된 Byzantine-tolerance 정의를 제안한다.

ABSTRACT

Recently, new defense techniques have been developed to tolerate Byzantine failures for distributed machine learning. The Byzantine model captures workers that behave arbitrarily, including malicious and compromised workers. In this paper, we break two prevailing Byzantine-tolerant techniques. Specifically we show robust aggregation methods for synchronous SGD -- coordinate-wise median and Krum -- can be broken using new attack strategies based on inner product manipulation. We prove our results theoretically, as well as show empirical validation.

연구 동기 및 목표

• Byzantine 작업자에 대비한 강건한 분산 SGD를 고무하고, 기존 방어책의 한계를 강조한다.
• inner product manipulation을 강건한 집계기를 교란할 수 있는 새로운 공격 벡터로 도입한다.
• 새로운 공격 모델하에서 좌표별 중앙값(coordinate-wise median)과 Krum의 취약성을 이론적으로 분석한다.
• DSSGD-Byzantine tolerance 정의를 수정하여 제안하고 이로 인한 함의를 이론적으로 및 실험적으로 평가한다.

제안 방법

• 악의적인 입력으로서 Byzantine gradient를 갖는 서버-워커 DSSGD 설정을 모델링한다.
• 하강 방향을 뒤집는 inner product manipulation 공격을 정의하고 형식화한다.
• 특정 조건에서 Median과 Krum이 깨질 수 있음을 보이는 이론적 결과를 제공한다.
• 취약성을 설명하기 위한 간단한 예제와 CIFAR-10 사례 연구를 제공한다.
• DSSGD에 대한 수정된 Byzantine tolerance 정의를 제안하고 그 함의를 논의한다.

실험 결과

연구 질문

• RQ1 일반적인 강건 집계기에서 inner product manipulation이 모인 경사을 반대 방향의 하강으로 가리키게 할 수 있는가?
• RQ2 좌표별 중앙값과 Krum이 어떤 조건에서 DSSGD-Byzantine-tolerant하지 못하는가?
• RQ3 적대적 그래디언트가 Byzantine-tolerant DSSGD 방식의 수렴 보장에 어떤 영향을 미치는가?
• RQ4 분산 SGD에서의 강건성을 더 잘 반영하는 수정된 Byzantine tolerance의 정의는 무엇인가?

주요 결과

• 내적 조작은 특정 설정에서 좌표별 중앙값이 DSSGD-Byzantine-tolerant하게 작동하지 못하게 만들 수 있다.
• Krum은 충분히 큰 설정에서 작은 양수 공격 크기로 깨질 수 있어 음의 하강 방향을 초래한다.
• 강건한 집계기의 전통적인 경계 거리 보장은 올바른 하강 방향을 보장하지 않는다.
• CIFAR-10에서의 실험은 제작된 Byzantine 공격 아래에서 Median과 Krum이 진전을 유지하지 못함을 보여준다.
• 최적화 중 강건성을 더 잘 반영하기 위해 수정된 DSSGD-Byzantine-tolerance 정의가 제안된다.
• 본 논문은 공격에 대한 이론적 증명과 실증 검증을 함께 제공한다.