[논문 리뷰] Secure Byzantine-Robust Distributed Learning via Clustering

Raj Kiriti Velicheti, Derek Xia외 1명|arXiv (Cornell University)|2021. 10. 06.

Privacy-Preserving Technologies in Data참고 문헌 25인용 수 7

한 줄 요약

이 논문은 클라이언트 업데이트의 프라이버시와 바이러스적 저항성을 동시에 보장하는 새로운 피어드 학습 프레임워크인 SHARE를 제안한다. 클라이언트들을 계층적으로 군집화함으로써, 먼저 무작위 군집 내에서 안전한 평균 계산을 수행하여 개별 업데이트를 은폐하고, 이후 서버 수준에서 강건한 집계를 수행한다. 이 방법은 비대칭 데이터 분포와 다양한 공격 유형(예: 레이블 뒤집기 공격 및 Fall of Empires 공격 포함) 하에서도 기존 방법보다 뛰어난 성능을 보이며, 강력한 프라이버시와 강건성을 동시에 확보한다.

ABSTRACT

Federated learning systems that jointly preserve Byzantine robustness and privacy have remained an open problem. Robust aggregation, the standard defense for Byzantine attacks, generally requires server access to individual updates or nonlinear computation -- thus is incompatible with privacy-preserving methods such as secure aggregation via multiparty computation. To this end, we propose SHARE (Secure Hierarchical Robust Aggregation), a distributed learning framework designed to cryptographically preserve client update privacy and robustness to Byzantine adversaries simultaneously. The key idea is to incorporate secure averaging among randomly clustered clients before filtering malicious updates through robust aggregation. Experiments show that SHARE has similar robustness guarantees as existing techniques while enhancing privacy.

연구 동기 및 목표

• 피어드 학습에서 바이러스적 저항성과 클라이언트 프라이버시 간의 근본적 갈등을 해결한다.
• 비선형 강건한 집계 방법이 안전한 다자간 계산(MPC)과 같은 프라이버시 보존 기법과 호환되지 않는 문제를 해결한다.
• 기존의 강건한 집계 또는 안전한 집계 프로토콜을 수정하지 않고도 프라이버시와 강건성을 모두 지원하는 확장 가능한 단일 서버 아키텍처를 설계한다.
• 이질적인 데이터와 악성 클라이언트가 존재하는 실세계 시스템에서 안전하고 강건한 피어드 학습의 실용적 구현을 가능하게 한다.
• 계층적 군집화가 비대칭 데이터 분포와 조율된 공격 하에서도 강건성을 향상시키며, 군집 내 안전한 평균 계산을 통해 프라이버시를 유지함을 입증한다.

제안 방법

• 각 글로벌 훈련 라운드의 시작 시 클라이언트들을 고정된 크기의 그룹으로 무작위로 군집화한다.
• 각 군집 내에서 안전한 평균 오라클(예: 비밀 공유 또는 덧셈형 호모모르픽 암호화를 통해)을 적용하여 개별 업데이트를 드러내지 않은 채로 평균을 계산한다.
• 개별 클라이언트 기여가 유지되는 것을 보장하기 위해 오직 군집 평균 업데이트만 중앙 서버로 전송한다.
• 군집 평균 업데이트에 대해 강건한 집계 방법(예: 잘라내기 평균, Krum, 중앙값, 또는 Zeno++)을 적용하여 악성 또는 손상된 신호를 걸러낸다.
• 악성 클라이언트 행동에 대한 저항성 향상을 위해 다수의 재군집화 라운드 동안 군집화 및 평균 계산 과정을 반복한다.
• 계층적 설계를 통해 프라이버시(군집 내 MPC를 통한 달성)와 강건성(군집 간 강건한 집계를 통한 달성)을 분리함으로써, 기존 프로토콜과의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 피어드 학습 시스템이 동시에 강력한 바이러스적 저항성과 클라이언트 업데이트의 엔드 투 엔드 프라이버시를 달성할 수 있는가?
• RQ2 안전한 평균 계산과 함께 계층적 군집화가 비대칭 데이터 분포와 조율된 공격 하에서도 강건성을 향상시키는가?
• RQ3 재군집화 라운드 수가 악성 클라이언트 행동 하에서 강건한 집계의 성능과 안정성에 어떤 영향을 미치는가?
• RQ4 기존의 강건한 집계 방법이 안전한 평균 계산과 군집화를 통해 효과적으로 결합될 수 있는가? 이때 프라이버시나 효율성이 손상되지 않는가?
• RQ5 레이블 뒤집기 공격 및 다양한 오염 수준을 가진 Fall of Empires 공격과 같은 현실적인 공격 시나리오 하에서 이 프레임워크는 어떻게 성능을 보이는가?

주요 결과

• 비대칭 데이터 분포 하에서 기준 방식인 중앙값과 Krum이 실패하는 상황에서도 SHARE는 재군집화 라운드 수가 증가할수록 강건성을 크게 향상시킨다.
• 50명의 클라이언트와 클라이언트당 2개의 레이블을 가진 조건에서, 중앙값 또는 Krum을 사용하는 SHARE는 재군집화가 없는 기준 대비 낮은 테스트 오차와 더 낮은 분산을 기록하며 성능이 향상된다.
• β = -10이고 악성 클라이언트 수 q = 3인 Fall of Empires 공격 하에서도 SHARE는 높은 정확도를 유지하며 고오염 수준에서도 고정 군집화 및 비재군집화 기준 대비 뛰어난 성능을 보인다.
• 악성 클라이언트 수 q = 12인 레이블 뒤집기 공격 하에서, 잘라내기 평균 및 Zeno++를 사용하는 SHARE는 비재군집화 대비 뛰어난 정확도를 기록하며 더 높은 저항성을 입증한다.
• 모든 공격 유형에서 재군집화가 성능 향상에 기여하며, 특히 고오염 수준에서 Zeno++는 뛰어난 안정성을 보이며, 재군집화 라운드 수가 많을수록 효과가 더 두드러진다.
• 고정 군집화는 동적 재군집화보다 성능이 열 劣하다. 후자는 양호한 클라이언트가 항상 악성 클라이언트와 함께 군집되는 위험을 줄여 신호 복구와 모델 수렴을 향상시킨다.