[논문 리뷰] Blockchain-based Monitoring for Poison Attack Detection in Decentralized Federated Learning

Ranwa Al Mallah, David López|arXiv (Cornell University)|2022. 09. 30.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 블록체인 기반의 분리형 모니터링 및 탐지 프레임워크를 제안하여 탈중앙화된 피어 페어드 페더레이티드 러닝에서 오염 공격을 방어한다. 모니터링(마이너스몬을 통해)과 학습/탐지(마이너스플을 통해)를 병렬화함으로써 종단 간 지연을 감소시키고 확장성과 내구성을 향상시키며, 최소한의 성능 저하로 다중 공격자 환경에서도 신뢰할 수 있는 모델 집합을 보장한다.

ABSTRACT

Federated Learning (FL) is a machine learning technique that addresses the privacy challenges in terms of access rights of local datasets by enabling the training of a model across nodes holding their data samples locally. To achieve decentralized federated learning, blockchain-based FL was proposed as a distributed FL architecture. In decentralized FL, the chief is eliminated from the learning process as workers collaborate between each other to train the global model. Decentralized FL applications need to account for the additional delay incurred by blockchain-based FL deployments. Particularly in this setting, to detect targeted/untargeted poisoning attacks, we investigate the end-to-end learning completion latency of a realistic decentralized FL process protected against poisoning attacks. We propose a technique which consists in decoupling the monitoring phase from the detection phase in defenses against poisoning attacks in a decentralized federated learning deployment that aim at monitoring the behavior of the workers. We demonstrate that our proposed blockchain-based monitoring improved network scalability, robustness and time efficiency. The parallelization of operations results in minimized latency over the end-to-end communication, computation, and consensus delays incurred during the FL and blockchain operations.

연구 동기 및 목표

• 블록체인을 통한 탈중앙화된 페더레이티드 러닝(FL)에서 오염 공격 탐지를 통합함으로써 발생하는 높은 종단 간 지연을 해결한다.
• 기존 FL의 중심 집중형 조율 방식의 성능 저하 문제를 해결하기 위해 책임자 노드를 제거하고 피어 투 피어 협업을 가능하게 한다.
• 블록체인 기반의 FL 아키텍처에서 모니터링 및 탐지 단계를 분리함으로써 시스템의 내구성과 확장성을 향상시킨다.
• 자원 제약이 있는 장치인 IoT 및 모바일 노드와 같은 환경에서 효율적이고 안전하며 프라이버시를 보장하는 모델 학습을 보장한다.
• 학습 파이프라인의 중단 없이 악성 노드를 걸러내기 위해 작업자 행동을 동적으로 실시간으로 평가할 수 있도록 한다.

제안 방법

• 전용 블록체인 마이너(마이너스몬 및 마이너스플)를 사용하여 모니터링 단계(작업자 행동 추적)를 탐지 및 학습 단계와 분리한다.
• 블록체인을 고정된, 신뢰할 수 없는 로그로 사용하여 국소 모델 업데이트 및 작업자 행동 패턴을 기록하고 검증한다.
• 마이너스몬을 통해 반복 작업 동안 작업자 행동을 지속적으로 모니터링하고 신뢰할 수 있는 노드 풀을 필터링 유지한다.
• 마이너스플은 사전 검증된 신뢰할 수 있는 노드 집합에서 독립적으로 선택하여 모델 집합을 수행함으로써 실시간 모니터링으로 인한 지연을 피한다.
• 모니터링 및 학습 작업의 병렬 실행을 통해 통신, 계산 및 합의 지연을 최소화한다.
• 집합 후에 검증된 글로벌 모델 업데이트를 블록체인에 추가하기 위한 합의 메커니즘을 구현하여 데이터 무결성과 투명성을 확보한다.

실험 결과

연구 질문

• RQ1 실시간 오염 공격 탐지를 통합할 때 탈중앙화된 페더레이티드 러닝에서 종단 간 지연을 어떻게 최소화할 수 있는가?
• RQ2 블록체인 기반의 FL 환경에서 모니터링 및 탐지 단계를 분리함으로써 시스템의 확장성과 내구성에 어떤 영향을 미치는가?
• RQ3 제안된 프레임워크는 다중 오염 공격자 상황에서 어떻게 작동하며, 낮은 지연과 높은 정확도를 유지하는가?
• RQ4 제안된 접근 방식은 모바일 기기 및 IoT 노드와 같은 자원 제약이 있는 장치에 효율적으로 구현될 수 있는가?
• RQ5 병렬 처리된 모니터링 및 학습 작업이 순차적이고 책임자에 의존하는 모델 대비 전체 시스템 지연을 얼마나 줄이는가?

주요 결과

• 제안된 분리형 모니터링 및 탐지 프레임워크는 모니터링 및 학습 작업을 병렬 실행함으로써 종단 간 학습 완료 지연을 크게 감소시킨다.
• 다중 공격자 조건에서도 수렴 시간이 짧게 유지되어 다양한 네트워크 크기(3, 6, 9명의 작업자)에서 내구성과 확장성을 입증한다.
• 모니터링 및 학습 책임이 투명하게 분리되어 있어 작업자 수가 증가함에 따라 지연이 안정적이고 최소한으로 유지된다.
• 공격자 수에 관계없이 기술이 무관하게 일관된 성능을 보이며, 한 명 또는 두 명의 공격자가 존재하더라도 동일한 성능을 유지한다.
• 블록체인 기반 설계 덕분에 모델 업데이트 및 작업자 행동의 안전하고 프라이버시를 보장하며 투명한 로깅이 가능해 동적 신뢰 평가를 지원한다.
• 모바일 및 IoT 노드와 같은 저자원 장치에 배포 가능하며, 마이너 할당을 신중히 조정함으로써 에너지 및 대역폭 최적화가 가능하다.