[논문 리뷰] BROADCAST: Reducing Both Stochastic and Compression Noise to Robustify Communication-Efficient Federated Learning

Heng Zhu, Qing Ling|arXiv (Cornell University)|2021. 04. 14.

Privacy-Preserving Technologies in Data참고 문헌 58인용 수 4

한 줄 요약

이 논문은 압축된 그래디언트를 사용하는 경우에도 임의의 바르비시안 공격 하에서 상태의 최적화 방법과 비슷한 점근적 오차를 가지며 선형 수렴를 달성하는 새로운 바르비시안에 강건한 분산학습 알고리즘인 BROADCAST를 제안한다. 이 알고리즘은 그래디언트 차분 압축을 통해 압축 노이즈를 줄이고, SAGA 기반 분산 감소를 통해 스 tochastic 노이즈를 감소시킨다.

ABSTRACT

Communication between workers and the master node to collect local stochastic gradients is a key bottleneck in a large-scale federated learning system. Various recent works have proposed to compress the local stochastic gradients to mitigate the communication overhead. However, robustness to malicious attacks is rarely considered in such a setting. In this work, we investigate the problem of Byzantine-robust compressed federated learning, where the attacks from Byzantine workers can be arbitrarily malicious. We theoretically point out that different to the attacks-free compressed stochastic gradient descent (SGD), its vanilla combination with geometric median-based robust aggregation seriously suffers from the compression noise in the presence of Byzantine attacks. In light of this observation, we propose to reduce the compression noise with gradient difference compression so as to improve the Byzantine-robustness. We also observe the impact of the intrinsic stochastic noise caused by selecting random samples, and adopt the stochastic average gradient algorithm (SAGA) to gradually eliminate the inner variations of regular workers. We theoretically prove that the proposed algorithm reaches a neighborhood of the optimal solution at a linear convergence rate, and the asymptotic learning error is in the same order as that of the state-of-the-art uncompressed method. Finally, numerical experiments demonstrate the effectiveness of the proposed method.

연구 동기 및 목표

• 압축된 분산학습에서 바르비시안 공격 하에 압축 노이즈가 방어 성능을 떨어뜨리는 문제를 해결하기 위해.
• 작업자들의 미니배치 샘플링에서 발생하는 스 tochastic 노이즈와 그래디언트 양자화 또는 희소화에서 발생하는 압축 노이즈를 동시에 줄이기 위해.
• 사전에 바르비시안 워커 비율을 알지 못해도 높은 강건성을 유지하는 통신 효율적인 알고리즘을 설계하기 위해.
• 압축된 그래디언트 하에서 최적 해의 이웃으로 선형 수렴를 이론적으로 증명하기 위해.
• 다양한 바르비시안 공격 하에서 기존의 강건하고 압축된 방법보다 성능이 뛰어나다는 것을 실증적으로 검증하기 위해.

제안 방법

• 압축된 그래디언트에서 발생하는 양자화 또는 희소화에 의한 노이즈를 줄이기 위해 그래디언트 차분 압축을 적용한다.
• 일반 워커의 그래디언트 내부 변동(스 tochastic 노이즈)을 점진적으로 제거하기 위해 SAGA 알고리즘을 통합한다.
• 바르비시안 워커의 악성 메시지를 안정적으로 처리하기 위해 기하평균 기반 집합을 사용한다.
• 비균일한 압축, 특히 top-k 희소화에서 발생하는 편향을 줄이기 위해 오차 피드백을 활용한다.
• 유한한 스 tochastic 그래디언트와 압축 조건 하에서 선형 수렴를 확립하기 위해 라플라스 함수를 기반으로 한 이론적 분석을 수행한다.
• 압축된 방법과 동일한 주요 오차 순서를 가지는 수렴 한계를 유도하여 알고리즘이 선형으로 수렴함을 보여준다.

실험 결과

연구 질문

• RQ1 압축된 분산학습에서 바르비시안 공격가 없는 설정과 비교해 압축 노이즈가 바르비시안에 강건한 성능을 얼마나 떨어뜨리는가?
• RQ2 바르비시안 공격가 존재하는 상황에서 그래디언트 차분 압축이 압축 노이즈를 효과적으로 줄일 수 있는가?
• RQ3 SAGA 기반 분산 감소는 바르비시안에 강건한 학습 중 국소 그래디언트의 스 tochastic 노이즈를 어느 정도 제거할 수 있는가?
• RQ4 압축 노이즈 감소와 분산 감소의 조합이 낮은 점근적 오차를 가지는 선형 수렴를 가능하게 하는가?
• RQ5 다양한 바르비시안 공격 하에서 기존의 방법들인 SignSGD와 그래디언트 노름 임계값 기반 방법과 비교해 제안된 방법은 어떻게 성능을 냈는가?

주요 결과

• 제안된 BROADCAST 알고리즘은 압축된 그래디언트 하에서 바르비시안 공격가 존재하는 상황에서도 최적 해의 이웃으로 선형 수렴를 달성한다.
• 점근적 학습 오차는 최신의 압축되지 않은 방법과 동일한 순서이므로, 압축으로 인한 성능 저하가 최소한임을 시사한다.
• 수치 실험 결과 BROADCAST는 가우시안, 부호 뒤집기, 영 그래디언트 바르비시안 공격 모두에 효과적으로 대응하며, 비트리ivial한 공격 패턴 하에서 SignSGD와 그래디언트 노름 임계값 기반 방법보다 뛰어난 성능을 보였다.
• 오차 피드백은 top-k 희소화와 같이 편향이 있는 압축기조차도 압축 노이즈를 효과적으로 완화하여 강건한 학습에서 '압축을 무료로' 사용할 수 있도록 한다.
• 바르비시안 워커 비율을 사전에 알 필요가 없으며, 1/2 이하일 경우에만 작동하므로, 임계값 기반 방법보다 더 실용적이다.
• 이론적 분석을 통해 그래디언트 차분 압축과 SAGA 기반 분산 감소의 조합이, 악성 조건 하에서도 오차가 유한한 안정적인 수렴를 이끌어내는 것으로 확인되었다.