[논문 리뷰] Abnormal Client Behavior Detection in Federated Learning

Suyi Li, Yong Cheng외 3명|arXiv (Cornell University)|2019. 10. 22.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 111

한 줄 요약

본 논문은 연합학습에서 비정상적인 클라이언트 업데이트를 식별하고 악의적 클라이언트를 제외하기 위해 오토인코더를 사용하는 서버 측 이상 탐지 방법을 제안하며, 방어 기반 방법보다 정확도를 향상시킨다.

ABSTRACT

In federated learning systems, clients are autonomous in that their behaviors are not fully governed by the server. Consequently, a client may intentionally or unintentionally deviate from the prescribed course of federated model training, resulting in abnormal behaviors, such as turning into a malicious attacker or a malfunctioning client. Timely detecting those anomalous clients is therefore critical to minimize their adverse impacts. In this work, we propose to detect anomalous clients at the server side. In particular, we generate low-dimensional surrogates of model weight vectors and use them to perform anomaly detection. We evaluate our solution through experiments on image classification model training over the FEMNIST dataset. Experimental results show that the proposed detection-based approach significantly outperforms the conventional defense-based methods.

연구 동기 및 목표

• 모델 품질과 프라이버시를 보호하기 위해 연합학습에서 이상(Byzantine) 클라이언트를 탐지해야 하는 필요성을 제시한다.
• 오토인코더 기반 재구성 오차에서 도출된 이상 점수를 이용하는 탐지 기반 프레임워크를 제안한다.
• 수렴을 보존하면서 이상 클라이언트를 낮은 가중치로 다루거나 제외하는 신용 점수로 집계를 가능하게 한다.
• 비 IID 연합 설정에서 탐지 기반 방법이 전통적인 방어 기반 접근법을 능가할 수 있음을 입증한다.

제안 방법

• 각 클라이언트의 이상 점수와 로컬 데이터 크기에 근거하여 신용 점수를 할당한다.
• FedAvg 데이터 가중치 항을 라운드별 신용 항 alpha_t+1^k로 대체하여 집계를 유도한다.
• 서버에서 미리 학습된 autoencoder를 사용하여 클라이언트 가중치 업데이트의 저차원 대리변수로부터 이상 점수를 계산한다.
• 고차원 모델 가중치에 차원 축소를 적용하여 autoencoder의 대리 입력을 형성한다.
• 재구성 오차와 정규화 항(Eq. 5)로부터 이상 점수 A_t+1^k를 계산한다.
• 의심되는 이상 클라이언트의 기여를 단호하게 제한하기 위해 이상 점수를 선택적으로 임계값화한다.

실험 결과

연구 질문

• RQ1 서버 측 autoencoder 기반 이상 탐지가 비정상적인 연합학습 클라이언트를 식별하는 데 얼마나 효과적인가?
• RQ2 비 IID 데이터와 다양한 공격 하에서 이상 기반 신용 점수를 도입하는 것이 전통적 방어 기반 방법에 비해 집계 성능을 향상시키는가?
• RQ3 차원 축소가 탐지 효율성과 계산 가능성에 미치는 영향은 무엇인가?
• RQ4 GeoMed, Krum, Trimmed Mean 등의 방어 기반 기준선에 비해 목표 공격 아래 탐지 기반 접근 방식의 성능은 어떠한가?

주요 결과

• 탐지 기반 방법은 평가된 모든 공격에서 방어 기반 스킴을 능가한다.
• 이상 점수를 엄격하게 임계값화하면 공격자가 없는 FedAvg와 거의 동등한 성능의 공동 학습 모델을 얻을 수 있다.
• 부호 반전 공격에서 제안된 접근 방식은 실험에서 GeoMed보다 모델 정확도를 10% 이상 향상시킨다.
• 본 방법은 고차원 모델 가중치를 처리하기 위해 차원 축소와 함께 autoencoder 기반 이상 탐지를 사용한다.
• FEMNIST에 대한 실험은 라운드당 20명의 선택된 클라이언트와 3,500명의 작가가 있는 비 IID 연합 환경에서 이 방법이 작동함을 보인다.
• 임계값화 및 신용 점수 집계는 악의적이거나 오작동하는 클라이언트에 대해 강력한 방어를 제공한다.