[논문 리뷰] BASGD: Buffered Asynchronous SGD for Byzantine Learning

Yi-Rui Yang, Wu-Jun Li|arXiv (Cornell University)|2020. 03. 02.

Privacy-Preserving Technologies in Data참고 문헌 47인용 수 6

한 줄 요약

이 논문은 통신 오류와 악성 공격을 저지하는 데 효과적인, 서버에 학습 데이터를 저장하지 않아도 되는 새로운 버퍼링 비동기적 확률적 경사하강법(BASGD)을 제안한다. 이는 기존의 비동기적 SGD와 유사한 이론적 수렴 성능을 보이며, 추가적인 상수 분산 항만 존재한다. 실험적으로는 공격이나 오류 조건 하에서도 기존의 비동기적 SGD 및 다른 ABL 기준 모델보다 뛰어난 성능을 보였다.

ABSTRACT

Distributed learning has become a hot research topic, due to its wide application in cluster-based large-scale learning, federated learning, edge computing and so on. Most distributed learning methods assume no error and attack on the workers. However, many unexpected cases, such as communication error and even malicious attack, may happen in real applications. Hence, Byzantine learning (BL), which refers to distributed learning with attack or error, has recently attracted much attention. Most existing BL methods are synchronous, which will result in slow convergence when there exist heterogeneous workers. Furthermore, in some applications like federated learning and edge computing, synchronization cannot even be performed most of the time due to the online workers (clients or edge servers). Hence, asynchronous BL (ABL) is more general and practical than synchronous BL (SBL). To the best of our knowledge, there exist only two ABL methods. One of them cannot resist malicious attack. The other needs to store some training instances on the server, which has the privacy leak problem. In this paper, we propose a novel method, called buffered asynchronous stochastic gradient descent (BASGD), for BL. BASGD is an asynchronous method. Furthermore, BASGD has no need to store any training instances on the server, and hence can preserve privacy in ABL. BASGD is theoretically proved to have the ability of resisting against error and malicious attack. Moreover, BASGD has a similar theoretical convergence rate to that of vanilla asynchronous SGD (ASGD), with an extra constant variance. Empirical results show that BASGD can significantly outperform vanilla ASGD and other ABL baselines, when there exists error or attack on workers.

연구 동기 및 목표

• 이종 워커 환경에서 느린 수렴을 겪는 기존의 동기식 바르비티안 학습 방법의 한계를 해결한다.
• 연합 학습 및 엣지 컴퓨팅과 같이 온라인 워커가 흔한 실세계 응용에서 동기화가 비현실적인 점을 극복한다.
• 클라이언트의 기밀성을 보장하기 위해 서버에 학습 인스턴스를 저장하지 않는 비동기적 바르비티안 학습 방법을 설계한다.
• 분산 학습 시스템에서 통신 오류와 악성 공격에 모두 강건성을 확보한다.
• 기존의 비동기적 SGD와 유사한 이론적 수렴 보장을 확보하면서도 바르비티안 워커에 대한 저항성을 유지한다.

제안 방법

• 기울기 계산과 매개변수 갱신을 분리함으로써 비동기성을 가능하게 하는 버퍼링 비동기적 확률적 경사하강법(BASGD) 프레임워크를 제안한다.
• 매개변수 서버에 워커로부터 온 기울기를 일시적으로 저장하는 버퍼 메커니즘을 도입하여 지연되거나 순서가 어긋난 갱신을 허용한다.
• 갱신 과정에서 손상되거나 악성인 기울기의 영향을 걸러내거나 완화하는 강건한 집합 규칙을 적용한다.
• 학습 인스턴스를 서버에 저장하지 않고 기울기 정보만을 기반으로 하여 데이터 기밀성을 보장한다.
• 기존 비동기적 SGD와 유사한 수렴 속도를 보장하는 이론적 수렴 증명을 수행하며, 추가로 상수 분산 항이 존재한다.
• 서버가 여러 워커의 기울기를 비동기적으로 집계하고 바르비티안에 강건한 집합 전략을 적용하는 확률적 경사하강 갱신 규칙을 사용한다.

실험 결과

연구 질문

• RQ1 서버에 학습 데이터를 저장하지 않아도 되는 비동기 바르비티안 학습 방법을 설계할 수 있는가, 이를 통해 기밀성이 보장되는가?
• RQ2 제안된 BASGD 방법은 바르비티안 조건 하에서도 기존 비동기적 SGD와 유사한 수렴 성질을 유지하는가?
• RQ3 BASGD는 분산 학습 환경에서 통신 오류와 악성 공격을 효과적으로 저지할 수 있는가?
• RQ4 워커가 오류 또는 공격을 당할 경우, BASGD는 기존 비동기적 SGD 및 다른 기존 ABL 기준 모델에 비해 실제로 어떻게 성능을 발휘하는가?
• RQ5 비동기적이고 바르비티안 워커 조건 하에서 BASGD의 이론적 수렴 행동은 어떠한가?

주요 결과

• BASGD는 기존 비동기적 SGD와 유사한 수렴 속도를 보이며, 추가로 상수 분산 항만 존재한다.
• 이 방법은 통신 오류와 워커의 악성 공격을 효과적으로 저지하며, 학습 안정성을 유지한다.
• BASGD는 서버에 어떤 학습 인스턴스도 저장하지 않아, 데이터 유지를 통한 기밀 유출 위험을 완전히 제거한다.
• 실험 결과, 공격이나 오류 조건 하에서도 BASGD는 기존 비동기적 SGD 및 다른 ABL 기준 모델보다 모델 정확도 측면에서 뚜렷이 뛰어난 성능을 보였다.
• 버퍼 메커니즘이 수렴성이나 강건성을 훼손하지 않으면서도 효율적인 비동기 갱신을 가능하게 한다.
• 제안된 방법은 동기화가 불가능하고 기밀성이 중요한 실세계 응용, 예를 들어 연합 학습 및 엣지 컴퓨팅에 실용적이다.