[논문 리뷰] SLSGD: Secure and Efficient Distributed On-device Machine Learning

Cong Xie, Sanmi Koyejo외 1명|arXiv (Cornell University)|2019. 03. 16.

Privacy-Preserving Technologies in Data참고 문헌 30인용 수 4

한 줄 요약

SLSGD는 데이터 오염 공격에 견디고 비독립 동일 분포(non-IID) 및 이질적 환경에서도 수렴하는, 통신 효율적이고 안전한 분산형 디바이스 내 학습 알고리즘입니다. 국소적 확률적 경사 하강법과 강건한 집계 및 이동 평균을 사용하여, 일부 워커가 해킹되더라도 안정적인 학습을 유지합니다. 이 알고리즘은 증명 가능한 수렴성을 확보합니다.

ABSTRACT

We consider distributed on-device learning with limited communication and security requirements. We propose a new robust distributed optimization algorithm with efficient communication and attack tolerance. The proposed algorithm has provable convergence and robustness under non-IID settings. Empirical results show that the proposed algorithm stabilizes the convergence and tolerates data poisoning on a small number of workers.

연구 동기 및 목표

• 디바이스 내 머신러닝에서 통신 제약, 이질적 계산 능력, 비독립 동일 분포 데이터의 과제를 해결합니다.
• 데이터 오염 공격 상황에서도 수렴성과 강건성을 유지하는 분산 최적화 알고리즘을 개발합니다.
• 이전 연구가 독립 동일 분포 또는 동일한 조건을 가정하는 것과는 달리, 비독립 동일 분포 및 이질적 환경에서의 이론적 수렴 보장을 제공합니다.
• 오랜 기간 동안 동기화가 이루어지지 않을 경우 발생하는 오차 누적과 분산을 줄이기 위해 강건한 집계 및 이동 평균 기법을 통해 학습을 안정화합니다.

제안 방법

• 전역 업데이트 주기마다 다수의 국소 반복을 수행하는 국소 SGD를 사용하여 통신 오버헤드를 줄입니다.
• 자르기 평균(trimmed mean)을 통해 악성으로 조작된 워커에서 유래한 이상치 모델을 걸러내는 강건한 집계를 구현합니다.
• 전역 모델 업데이트에 이동 평균을 적용하여 드물게 발생하는 동기화로 인한 분산과 오차를 감소시킵니다.
• 각 전역 에포크마다 무작위로 워커의 부분 집합을 활성화하여 부하 균형을 맞추고 통신 빈도를 줄입니다.
• 수렴 안정성과 강건성을 제어하기 위해 적응형 학습률 감쇠(α)와 자르기 임계값(b)을 도입합니다.
• 이론적 분석을 통해 비독립 동일 분포 및 이질적 환경에서 강凸함수, 비강凸함수, 제한된 비凸함수 클래스에 대해 수렴성을 입증합니다.

실험 결과

연구 질문

• RQ1 제한된 통신과 강건한 집계를 갖춘 국소 SGD가 비독립 동일 분포 데이터 분포 상황에서도 증명 가능한 수렴성을 달성할 수 있는가?
• RQ2 소수의 워커가 해킹되더라도 SLSGD는 어떻게 데이터 오염 공격에 견디는가?
• RQ3 국소 업데이트 횟수와 하이퍼파ram터(α, b)가 수렴 속도와 안정성에 미치는 영향은 무엇인가?
• RQ4 불균형한 데이터 분할은 수렴에 어떤 영향을 미치며, SLSGD는 이러한 분산을 완화할 수 있는가?
• RQ5 강건한 집계와 이동 평균은 오염 공격 상황에서 모델 발산을 효과적으로 방지할 수 있는가?

주요 결과

• SLSGD는 비독립 동일 분포 및 이질적 환경에서 강凸함수, 비강凸함수, 제한된 비凸함수 클래스에 대해 증명 가능한 수렴성을 확보합니다.
• 자르기 평균(옵션 II)을 사용한 SLSGD는 각 에포크에 최대 40%의 데이터가 오염된 상황에서도 치명적인 발산을 효과적으로 방지합니다.
• b(자르기 임계값)의 값이 클수록, α(학습률)의 값이 작을수록 오염 및 불균형한 데이터 상황에서 강건성과 수렴 속도가 향상됩니다.
• 전역 에포크당 더 많은 국소 반복 횟수는 수렴 속도를 가속화합니다. 실험 결과, 국소 데이터를 3회 완전히 순회(pass=3)하는 경우 더 빠른 손실 감소가 관찰되었습니다.
• 공격이 없는 상황에서는 α=1 및 b=0(즉, FedAvg와 동일)일 때 SLSGD가 가장 빠르게 수렴하지만, 다른 설정과의 성능 격차는 미미합니다.
• 불균형한 분할과 공격 상황에서는 더 작은 α 값이 더 큰 안정성을 제공하며, 자르기 평균은 발산을 방지하기 위해 필수적입니다.