[논문 리뷰] Byzantine-Robust Clustered Federated Learning

Zhixu Tao, Kun Yang외 1명|arXiv (Cornell University)|2023. 06. 01.

HIV, Drug Use, Sexual RiskMedicine인용 수 3

한 줄 요약

이 논문은 악성 공격에도 불구하고 비잔틴 장애에 강건한 반복적 분산 클러스터링 알고리즘을 제안한다. 이 알고리즘은 비비잔틴 머신의 클러스터를 동시에 식별하고 국소 모델을 최적화한다. IFCA 프레임워크에 좌표별 잘라낸 평균과 중앙값 집계를 통합함으로써, 강한 볼록성 조건 하에서 수렴성을 확보하고 기존 방법보다 뛰어난 성능을 발휘한다. 특히 고차원 또는 고클러스터 설정에서 비잔틴 결함이 존재할 경우에 유의미한 성능 향상을 보인다.

ABSTRACT

This paper focuses on the problem of adversarial attacks from Byzantine machines in a Federated Learning setting where non-Byzantine machines can be partitioned into disjoint clusters. In this setting, non-Byzantine machines in the same cluster have the same underlying data distribution, and different clusters of non-Byzantine machines have different learning tasks. Byzantine machines can adversarially attack any cluster and disturb the training process on clusters they attack. In the presence of Byzantine machines, the goal of our work is to identify cluster membership of non-Byzantine machines and optimize the models learned by each cluster. We adopt the Iterative Federated Clustering Algorithm (IFCA) framework of Ghosh et al. (2020) to alternatively estimate cluster membership and optimize models. In order to make this framework robust against adversarial attacks from Byzantine machines, we use coordinate-wise trimmed mean and coordinate-wise median aggregation methods used by Yin et al. (2018). Specifically, we propose a new Byzantine-Robust Iterative Federated Clustering Algorithm to improve on the results in Ghosh et al. (2019). We prove a convergence rate for this algorithm for strongly convex loss functions. We compare our convergence rate with the convergence rate of an existing algorithm, and we demonstrate the performance of our algorithm on simulated data.

연구 동기 및 목표

• 일부 머신이 손상된 업데이트를 전송함으로써 학습을 조작할 수 있는 비잔틴 공격 문제를 다루기.
• 비잔틴 머신이 특정 클러스터를 표적으로 삼아도, 공유 데이터 분포 기반으로 비비잔틴 머신을 상호 배타적인 그룹으로 강건하게 클러스터링할 수 있도록 하기.
• 악성 조건 하에서 클러스터 소속을 동시에 추정하고 국소 모델을 최적화하는 반복적 알고리즘 설계하기.
• 정상 머신 간 데이터 크기가 동일하지 않아도, 최소 데이터 포인트 수 기준을 만족하는 한 강한 볼록 손실 함수에 대해 수렴성을 확보하기.
• 기존 작업에 비해 차원 수와 클러스터 크기에 대한 의존도를 줄여, 특히 고차원 또는 대규모 클러스터 환경에서의 성능 향상 달성하기.

제안 방법

• 클러스터 할당과 모델 최적화를 번갈아 수행하는 반복적 분산 클러스터링 알고리즘(IFCA) 프레임워크를 채택하기.
• 비잔틴 업데이트의 영향을 줄이기 위해 좌표별 잘라낸 평균과 좌표별 중앙값 집계를 통합하기.
• 각 반복 단계에서 손실 함수 값을 사용하여 클러스터 중심과 유사도 기반으로 비비잔틴 머신을 클러스터에 할당하기.
• 악성 머신이 클러스터 중심의 3배 거리에서 기울기를 계산하도록 허용하여 악성 외곽선을 생성함으로써 최악의 상황 공격 시뮬레이션하기.
• 모델 업데이트의 각 좌표에서 가장 극단적인 값을 제거하는 강건한 집계 규칙을 적용하여 수렴성 유지하기.
• 정상 머신의 최소 데이터 포인트 수와 최악의 비잔틴 비율에 대한 가정 하에 강한 볼록성 조건 하에서 수렴성 증명하기.

실험 결과

연구 질문

• RQ1 일부 클라이언트가 비잔틴이면서 특정 클러스터를 표적으로 삼는 상황에서, 분산 클러스터링 알고리즘이 수렴성과 정확성을 유지할 수 있는가?
• RQ2 비잔틴 공격 존재 하에서, 강건한 집계(잘라낸 평균/중앙값)의 성능은 기존 FedAvg와 비교해 어떻게 되는가?
• RQ3 고차원성과 증가하는 클러스터 수가 강건한 분산 클러스터링의 수렴성과 오차율에 미치는 영향은 무엇인가?
• RQ4 특히 고차원 또는 대규모 클러스터 설정에서, 제안된 알고리즘이 기존 방법(예: Three-Stage Algorithm)보다 더 낮은 오차율을 달성하는가?
• RQ5 강한 볼록성 조건 하에서 제안된 비잔틴에 강건한 IFCA 프레임워크의 이론적 수렴 보장 조건은 무엇인가?

주요 결과

• 좌표별 잘라낸 평균과 중앙값 집계를 사용하는 제안된 알고리즘은 비잔틴 공격 하에서도 강한 볼록 손실 함수에 대해 수렴성을 확보한다.
• 저차원 설정(d ≤ 50)에서는 Three-Stage Algorithm 이 가장 우수한 성능을 보이지만, 차원 수 d 가 증가함에 따라 고차원에서의 비최적 클러스터링으로 인해 성능이 크게 떨어진다.
• FedAvg를 사용하는 IFCA 프레임워크는 비잔틴 업데이트에 대한 강건성이 부족하여 제안된 알고리즘보다 열 劣하다.
• 고차원 문제(d = 500)와 증가하는 클러스터 수(k = 2에서 15로)에 대해 제안된 알고리즘이 항상 IFCA with FedAvg와 Three-Stage Algorithm을 앞서며 일관되게 뛰어난 성능을 발휘한다.
• 오차 지표 dist = (1/k)∑‖θ̂j − θj*‖ 는 제안된 알고리즘이 모든 테스트 설정에서 평균 오차를 낮게 유지하며, 특히 d 가 크거나 k 가 증가할 경우에 유의미한 우수성을 보인다.
• 알고리즘의 성능은 비잔틴 머신 비율 α = 0.05 에 대해 강건하며, 모든 비잔틴 머신이 가장 작은 클러스터를 동시에 표적으로 삼는 상황에서도 수렴성을 유지한다.