[논문 리뷰] Robust Federated Learning in a Heterogeneous Environment

Avishek Ghosh, Justin Hong외 2명|arXiv (Cornell University)|2019. 06. 16.

Machine Learning and Algorithms참고 문헌 38인용 수 150

한 줄 요약

본 논문은 Byzantine 작업자들과 함께 이질적인 데이터에서 강건한 연합 학습을 위한 3단계 모듈식 프레임워크를 제시하며, 로컬 모델의 강건한 클러스터링 및 강건한 분산 최적화를 포함하여 거의 최적에 가까운 오차율을 달성합니다. 또한 강건한 Lloyd 유형의 클러스터링 알고리즘을 분석하고 비강건 방법에 비해 실질적인 이득을 크게 입증합니다.

ABSTRACT

We study a recently proposed large-scale distributed learning paradigm, namely Federated Learning, where the worker machines are end users' own devices. Statistical and computational challenges arise in Federated Learning particularly in the presence of heterogeneous data distribution (i.e., data points on different devices belong to different distributions signifying different clusters) and Byzantine machines (i.e., machines that may behave abnormally, or even exhibit arbitrary and potentially adversarial behavior). To address the aforementioned challenges, first we propose a general statistical model for this problem which takes both the cluster structure of the users and the Byzantine machines into account. Then, leveraging the statistical model, we solve the robust heterogeneous Federated Learning problem \emph{optimally}; in particular our algorithm matches the lower bound on the estimation error in dimension and the number of data points. Furthermore, as a by-product, we prove statistical guarantees for an outlier-robust clustering algorithm, which can be considered as the Lloyd algorithm with robust estimation. Finally, we show via synthetic as well as real data experiments that the estimation error obtained by our proposed algorithm is significantly better than the non-Byzantine-robust algorithms; in particular, we gain at least by 53\% and 33\% for synthetic and real data experiments, respectively, in typical settings.

연구 동기 및 목표

• 데이터 이질성과 Byzantine 오류를 가진 실용적이고 확장 가능한 설정에서 강건한 연합 학습을 동기 부여한다.
• 로컬 ERM, 강건한 클러스터링, 강건한 분산 최적화를 결합하는 모듈식 3단계 프레임워크를 개발한다.
• 차원 및 데이터 샘플에서 거의 최적의 추정 오차를 보장하는 이론적 보장을 제공한다.
• 고차원에 적합한 강건한 Lloyd 기반 클러스터링 접근법을 도입하고 분석한다.
• 합성 및 실제 데이터 세트에서 비강건 기준선 대비 경험적 이득을 보여준다.

제안 방법

• Stage I: 각 작업자는 로컬 경험적 위험 최소화자 ERM hatw(i) = argmin_w F(i)(w) where F(i)(w) = (1/n) sum_j f(w; x^{i,j}).
• Stage II: 센터는 Outlier-robust 방법을 사용하여 ERMs를 K개의 클러스터로 클러스터링한다(데이터 n이 큰 경우 임계값 기반 클러스터링, 또는 강건 평균 추정치를 갖는 강건 Lloyd/K-means 변형).
• Stage III: 각 클러스터 내에서 강건한 분산 최적화 알고리즘을 실행하여 클러스터별 모델을 얻는다(저차원/중간 차원의 경우 잘려진 평균으로, 고차원은 반복적 필터링으로).
• 이론적 결과는 오차 경계: ||hatw_i - w_i*|| = O~( (alpha_hat_i * d)/sqrt(n) + d/sqrt(n M_i) ) under certain assumptions, with high probability.
• 고차원/이상치 설정의 경우, 분석은 잘려진 K-평균을 이용한 강건한 클러스터링과 반복적 필터링 접근법까지 확장된다.
• 클러스터링 분석은 적절한 초기화 하에서 잘못 클러스터링된 점이 기하급수적으로 감소하는 보장을 갖는 강건한 Lloyd 스타일 알고리즘을 포함한다.

실험 결과

연구 질문

• RQ1 연합 학습을 어떻게 Byzantine 작업자에 대해 강건하게 만들고 이질적(클러스터링된) 데이터 분포를 처리할 수 있는가?
• RQ2 모듈식 3단계 프레임워크(로컬 ERM, 강건한 클러스터링, 강건한 분산 최적화)가 Byzantine 및 이질성 하에서 거의 최적의 추정 오차를 달성할 수 있는가?
• RQ3 적대적 요인과 차원 확장에 따라 로컬 모델의 강건한 클러스터링에 대한 이론적 보장은 무엇이며 차원과의 관계는 어떠한가?
• RQ4 강건한 집계 및 클러스터링 선택이 합성 및 실제 데이터 세트에서 실질적 성능에 어떤 영향을 미치는가?
• RQ5 다양한 강건한 서브루틴을 각 단계에서 적용해도 비강건 연합 학습 방법에 비해 성능 이점은 무엇인가?

주요 결과

• 제안된 3단계 알고리즘은 거의 최적의 오차율을 달성한다: ||hatw_i - w_i*|| = O~( (alpha_hat_i * d)/sqrt(n) ).
• 강건한 클러스터링(잘려진 K-평균 / K-지오메드리언)은 표준 K-평균에 비해 오클러스터링 오류를 감소시키며 적절한 초기화에서 오클러스터링된 점의 수가 기하급수적으로 감소한다.
• 실험 결과는 비강건 기준선에 비해 상당한 개선을 보이며, 합성 데이터에서 추정 오차가 최소 53%, Yahoo! Learning to Rank 실제 데이터 실험에서 33% 감소를 보인다.
• 강건한 Lloyd 스타일 클러스터링 분석은 고차원 설정에서 이론적 보장을 제공하여 큰 차원에서도 접근법의 실용성을 높인다.
• 프레임워크는 모듈형으로 남아 각 단계에서 다양한 강건 서브루틴을 사용할 수 있으며 전반적인 성능 보장을 유지한다.
• 오라클과의 비교를 통해 다수의 레짐에서 해당 방법이 비강건이 아닌 클러스터 아이덴티티를 아는 오라클의 성능에 부합함을 보여준다.