[논문 리뷰] Fall of Empires: Breaking Byzantine-tolerant SGD by Inner Product Manipulation

Cong Xie, Sanmi Koyejo외 1명|arXiv (Cornell University)|2019. 03. 10.

Privacy-Preserving Technologies in Data참고 문헌 25인용 수 59

한 줄 요약

본 논문은 두 가지 Byzantine-tolerant SGD 방어책(좌표별 중앙값 및 Krum)을 무력화하는 내적 조작 공격을 제시하고, 이론적 및 실증적 검증을 포함한 수정된 Byzantine 허용성 정의를 제안한다.

ABSTRACT

Recently, new defense techniques have been developed to tolerate Byzantine failures for distributed machine learning. The Byzantine model captures workers that behave arbitrarily, including malicious and compromised workers. In this paper, we break two prevailing Byzantine-tolerant techniques. Specifically we show robust aggregation methods for synchronous SGD -- coordinate-wise median and Krum -- can be broken using new attack strategies based on inner product manipulation. We prove our results theoretically, as well as show empirical validation.

연구 동기 및 목표

• 분산 동기식 SGD에서 Byzantine 워커의 위협을 동기 부여하고 형식화한다.
• 기존의 강건한 집계기는 내적 조작 공격으로 손상될 수 있음을 보인다.
• 정의된 조건 하에서 취약성을 증명하는 이론적 분석을 제공한다.
• CIFAR-10에 대한 실험적 검증을 수행하고 Byzantine 허용성 정의에 대한 시사점을 논의한다.

제안 방법

• 파라미터 서버와 Byzantine 워커를 가진 분산 동기식 SGD를 모델링한다.
• 최대 q개의 그래디언트가 Byzantine이고 전지전능한 공격자는 그래디언트를 맞춤 조정할 수 있는 위협 모델을 정의한다.
• 거리의 차이를 제약하는 것뿐만 아니라 감소 방향을 뒤집는 내적 조작 공격을 도입한다.
• 두 가지 강건한 집계기(좌표별 중앙값 및 Krum)를 분석하고, 이들이 비허용적이 되는 조건(DSSGD-Byzantine-tolerant)을 도출한다.
• 참 진실한 그래디언트와의 내적의 부호에 기반한 수정된 DSSGD-Byzantine 허용성 정의를 제안한다.
• 이론적 결과를 검증하기 위한 CIFAR-10의 토이 및 사례 연구 실험을 제공한다.

실험 결과

연구 질문

• RQ1 내적 조작이 Median과 Krum 하에서 감소 방향을 실제 그래디언트와 반대 방향으로 바꿀 수 있는가?
• RQ2 어떤 조건에서 Median과 Krum이 DSSGD-Byzantine-tolerant하지 못하는가?
• RQ3 강건한 집계 규칙에 백도어를 심도록 Byzantine 그래디언트를 어떻게 구성할 수 있는가?
• RQ4 수정된 Byzantine 허용성 정의가 분산 SGD의 실용적 취약점을 포착하는가?

주요 결과

• 내적 조작 공격은 집계된 그래디언트가 실제 그래디언트와의 내적이 음수가 되어 하강을 악화시킬 수 있게 한다.
• 일정한 조건(m-2q=1)에서 충분히 크거나 전략적으로 선택된 Byzantine 그래디언트가 있을 때 Median은 DSSGD-Byzantine-tolerant하지 않다.
• 일정한 조건(m-2q=3)에서 Krum은 가장 가까운 이웃 기준을 오도하도록 정렬된 적대적 그래디언트와 함께 DSSGD-Byzantine-tolerant하지 않는다.
• CIFAR-10에 대한 실증 결과는 양의 크기가 큰 공격에 대해 Median이 실패할 수 있음을 보여주고, 반면 작고 양의 공격은 Krum를 위협할 수 있다.