[논문 리뷰] Dynamic Federated Learning Model for Identifying Adversarial Clients.

Nuria Rodríguez-Barroso, Eugenio Martínez‐Cámara외 4명|arXiv (Cornell University)|2020. 07. 29.

Privacy-Preserving Technologies in Data참고 문헌 48인용 수 13

한 줄 요약

이 논문은 실시간 클라이언트 선택을 통해 악성 클라이언트를 식별하고 제거하는 동적 플러드러티드 학습 모델을 제안한다. 이는 글로벌 모델의 강건성을 향상시킨다. 열악한 데이터 분포 또는 악성 레이블을 가진 클라이언트를 걸러내어 분류 정확도를 향상시키고, 훈련 라운드 수를 줄이며, EMNIST 및 Fashion MNIST 데이터셋에서의 데이터 풀링 공격에 저항한다.

ABSTRACT

Federated learning, as a distributed learning that conducts the training on the local devices without accessing to the training data, is vulnerable to dirty-label data poisoning adversarial attacks. We claim that the federated learning model has to avoid those kind of adversarial attacks through filtering out the clients that manipulate the local data. We propose a dynamic federated learning model that dynamically discards those adversarial clients, which allows to prevent the corruption of the global learning model. We evaluate the dynamic discarding of adversarial clients deploying a deep learning classification model in a federated learning setting, and using the EMNIST Digits and Fashion MNIST image classification datasets. Likewise, we analyse the capacity of detecting clients with poor data distribution and reducing the number of rounds of learning by selecting the clients to aggregate. The results show that the dynamic selection of the clients to aggregate enhances the performance of the global learning model, discards the adversarial and poor clients and reduces the rounds of learning.

연구 동기 및 목표

• 악성 클라이언트로부터 오는 더러운 레이블 데이터 풀링 공격에 취약한 플러드러티드 학습의 문제를 해결하기 위해.
• 집합 과정 중에 악성 또는 열악한 분포를 가진 클라이언트를 식별하고 제외하는 동적 메커니즘을 개발하기 위해.
• 글로벌 모델 업데이트에만 고품질 클라이언트를 선택하여 훈련 라운드 수를 줄이기 위해.
• 악성 또는 저품질 데이터 기여가 있는 상황에서도 글로벌 모델의 강건성과 성능을 향상시키기 위해.

제안 방법

• 모델은 플러드러티드 집합 과정 중에 이상적이거나 저품질 데이터를 가진 클라이언트를 제외하기 위해 동적 클라이언트 선택을 활용한다.
• 클라이언트 기여도를 데이터 분포 품질과 모델 업데이트 일관성 기반으로 평가하여 악성 행동을 탐지한다.
• 글로벌 모델의 기대 행동과 크게 다름 또는 데이터 풀링 징후를 보이는 클라이언트는 필터링 메커니즘을 통해 제거된다.
• 클라이언트 업데이트의 실시간 모니터링을 통한 신뢰성 평가를 전제로 글로벌 모델 집합에 포함되기 이전에 수행된다.
• 악성 조건 하에서 성능을 평가하기 위해 EMNIST Digits 및 Fashion MNIST 데이터셋에서 딥 러닝 분류 모델을 사용한다.
• 신뢰할 수 있는 클라이언트를 우선순위로 삼아 훈련 라운드 수를 줄여 수렴성과 모델 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 어떻게 플러드러티드 학습 환경에서 악성 클라이언트를 효과적으로 탐지하고 제외할 수 있는가?
• RQ2 동적 클라이언트 선택은 데이터 풀링 공격에 대한 글로벌 모델의 강건성에 얼마나 기여하는가?
• RQ3 열악한 데이터 분포를 가진 클라이언트를 걸러내는 것은 필요한 훈련 라운드 수를 줄일 수 있는가?
• RQ4 표준 플러드러티드 학습 대비 동적 모델은 정확도 및 수렴성 측면에서 어떻게 성능을 발휘하는가?

주요 결과

• 클라이언트의 동적 선택은 EMNIST Digits 및 Fashion MNIST 데이터셋에서 글로벌 학습 모델의 성능을 크게 향상시킨다.
• 모델은 데이터 풀링 공격을 시도하는 악성 클라이언트를 성공적으로 식별하고 제거한다.
• 열악한 데이터 분포를 가진 클라이언트는 효과적으로 걸러져 모델의 일반화 및 안정성이 향상된다.
• 고품질 클라이언트 업데이트의 더 효율적인 집합으로 인해 훈련 라운드 수가 감소한다.
• 악성 조건 하에서도 높은 분류 정확도를 유지한다.
• 악성 클라이언트에 대한 사전 지식이 없더라도 동적 필터링 메커니즘이 수렴 속도와 강건성을 향상시킨다.