[논문 리뷰] Over-The-Air Federated Learning under Byzantine Attacks

Houssem Sifaou, Geoffrey Ye Li|arXiv (Cornell University)|2022. 05. 05.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 공기 중 전송 기반 모델 업데이트 동안 바르비셔안 공격에 대응하기 위해 클라이언트를 그룹화하고 기하 평균 집합을 사용하는 강건한 공기 중 분산 학습 프레임워크인 ROTAF를 제안한다. 이 방법은 그룹의 절반 이하가 손상된 경우에도 최적 해의 이웃으로 선형 수렴을 보장하며, 수렴 오차는 노이즈 분산과 공격자 수에 의해 제한된다.

ABSTRACT

Federated learning (FL) is a promising solution to enable many AI applications, where sensitive datasets from distributed clients are needed for collaboratively training a global model. FL allows the clients to participate in the training phase, governed by a central server, without sharing their local data. One of the main challenges of FL is the communication overhead, where the model updates of the participating clients are sent to the central server at each global training round. Over-the-air computation (AirComp) has been recently proposed to alleviate the communication bottleneck where the model updates are sent simultaneously over the multiple-access channel. However, simple averaging of the model updates via AirComp makes the learning process vulnerable to random or intended modifications of the local model updates of some Byzantine clients. In this paper, we propose a transmission and aggregation framework to reduce the effect of such attacks while preserving the benefits of AirComp for FL. For the proposed robust approach, the central server divides the participating clients randomly into groups and allocates a transmission time slot for each group. The updates of the different groups are then aggregated using a robust aggregation technique. We extend our approach to handle the case of non-i.i.d. local data, where a resampling step is added before robust aggregation. We analyze the convergence of the proposed approach for both cases of i.i.d. and non-i.i.d. data and demonstrate that the proposed algorithm converges at a linear rate to a neighborhood of the optimal solution. Experiments on real datasets are provided to confirm the robustness of the proposed approach.

연구 동기 및 목표

• 공기 중 분산 학습(OTA-FL)이 악성 클라이언트에 의해 모델 업데이트를 조작당하는 취약성을 해결하기 위해.
• 통신 효율성을 유지하면서도 악성 클라이언트에 대한 강건성을 확보하기 위해.
• 강건한 집합 이전에 재표본화 단계를 통해 비i.i.d. 데이터 분포에서도 수렴을 가능하게 하기 위해.
• i.i.d. 및 비i.i.i.d. 데이터에 대해 수렴을 이론적으로 분석하여 최적 해의 이웃으로 선형 수렴을 증명하기 위해.
• 실제 데이터셋을 활용한 실험을 통해 제안된 프레임워크의 강건성과 효과성을 검증하기 위해.

제안 방법

• 중앙 서버는 참가 클라이언트를 그룹으로 나누고, 각 그룹이 동시에 공기 중 전송을 위해 전용 시간 슬롯을 할당받는다.
• 다른 그룹의 모델 업데이트는 기하 평균 집합을 통해 바르비셔안 조작에 저항하도록 집계된다.
• 비i.i.d. 데이터의 경우, 강건한 집합 이전에 재표본화 단계를 적용하여 수렴 안정성을 향상시킨다.
• 프레임워크는 s-치환을 사용하는 재표본화 메커니즘을 통해 안정적인 업데이트 추정치를 생성하여 악성 입력으로 인한 분산을 줄인다.
• 이론적 분석은 기하 평균 추정 오차를 확률적 농도 및 재표본화 기법을 사용해 제한하는 데 기반한다.
• 손실 함수에 대한 표준 가정 하에서 수렴이 증명되며, 수렴 속도는 선형이며 점점 줄어드는 오차는 노이즈와 공격자 수에 따라 달라진다.

실험 결과

연구 질문

• RQ1 공기 중 분산 학습이 통신 효율성을 잃지 않으면서 바르비셔안 공격에 강건하게 만들 수 있는가?
• RQ2 그룹 기반 전송과 기하 평균 집합은 AirComp에서 단순 평균화에 비해 얼마나 더 강건한가?
• RQ3 i.i.d. 및 비i.i.d. 데이터 분포 하에서 제안된 방법의 이론적 수렴 행동은 어떠한가?
• RQ4 재표본화 단계는 이질적인 데이터가 존재할 경우 강건성과 수렴에 어떤 영향을 미치는가?
• RQ5 바르비셔안 공격자가 존재할 경우 점점 줄어드는 학습 오차의 상한은 얼마인가?

주요 결과

• 제안된 ROTAF 프레임워크는 i.i.d. 및 비i.i.d. 데이터 설정 모두에서 최적 해의 이웃으로 선형 수렴을 달성한다.
• 바르비셔안 그룹 수가 총 그룹 수의 절반 이하일 경우 알고리즘이 강건하고 신뢰성 있게 수렴한다.
• 점점 줄어드는 학습 오차는 노이즈 분산과 바르비셔안 공격자 수에 비례하는 항으로 제한된다.
• 재표본화 단계는 비i.i.d. 데이터 하에서 수렴 안정성을 크게 향상시켜 데이터 이질성의 영향을 줄인다.
• 수치 실험을 통해 ROTAF가 단순 평균화 OTA-FL보다 바르비셔안 공격에 대해 더 강건한 것으로 확인되었다.
• 이론적 분석은 오차 상한이 그룹 크기의 역수에 비례하고 기하 평균 추정 오차에 따라 달라지며, 이 오차는 재표본화를 통해 제어됨을 보여준다.