[논문 리뷰] Blockchain-Based Federated Learning in Mobile Edge Networks with Application in Internet of Vehicles

Rui Wang, Heju Li외 1명|arXiv (Cornell University)|2021. 03. 01.

Privacy-Preserving Technologies in Data참고 문헌 26인용 수 10

한 줄 요약

이 논문은 인터넷 오브 차 things (IoV)를 위한 이동형 에지 컴퓨팅(MEC)과 통합된 블록체인 기반 보호, 차등적 비밀유지 향상 기반 분산 학습 프레임워크를 제안한다. 이는 탈중앙화된 모델 훈련에서의 개인정보 泄露 및 악성 행동 문제를 해결한다. 국소적 차등적 비밀유지, 악성 업데이트를 탐지하기 위한 자기 신뢰성 필터, 그리고 모델 품질을 집합적 가중치로 정량화한 블록체인 기반 참가자 관리 시스템을 결합함으로써, 높은 정확도, 기울기 뒤집기, 동일값, 백도어 공격에 대한 강건성, 그리고 MEC 기반 네트워크에서 이중 집계 기반의 클라우드 통신 오버헤드 감소를 달성한다.

ABSTRACT

The rapid increase of the data scale in Internet of Vehicles (IoV) system paradigm, hews out new possibilities in boosting the service quality for the emerging applications through data sharing. Nevertheless, privacy concerns are major bottlenecks for data providers to share private data in traditional IoV networks. To this end, federated learning (FL) as an emerging learning paradigm, where data providers only send local model updates trained on their local raw data rather than upload any raw data, has been recently proposed to build a privacy-preserving data sharing models. Unfortunately, by analyzing on the differences of uploaded local model updates from data providers, private information can still be divulged, and performance of the system cannot be guaranteed when partial federated nodes executes malicious behavior. Additionally, traditional cloud-based FL poses challenges to the communication overhead with the rapid increase of terminal equipment in IoV system. All these issues inspire us to propose an autonomous blockchain empowered privacy-preserving FL framework in this paper, where the mobile edge computing (MEC) technology was naturally integrated in IoV system.

연구 동기 및 목표

• 분산 학습에서의 국소적 모델 업데이트가 민감한 정보를 드러낼 수 있는 IoV 데이터 공유에서의 개인정보 泄露 문제를 해결하기 위해.
• 전역 모델 수렴을 방해할 수 있는 악성 참가자가 오염된 기울기를 주입하는 위험을 완화하기 위해.
• MEC 노드에 집계 기능을 이양함으로써 대규모 IoV 시스템에서의 통신 오버헤드를 줄이기 위해.
• 모델 업데이트 품질과 참가자 신뢰성 기록을 블록체인으로 기록하고 검증함으로써 분산 학습에서 신뢰성과 책임성을 확보하기 위해.
• 집합적 가중치로 측정된 모델 업데이트 품질 기반의 수익 분배 메커니즘을 통해 고품질 데이터 기여자를 인cent라이즈하기 위해.

제안 방법

• 모델 업데이트에 보정된 노이즈를 추가하여 (ε,δ)-차등적 비밀유지를 만족시키고 멤버십 추론 공격으로부터 보호하기 위해 국소적 차등적 비밀유지를 통합한다.
• 전역 모델 경로와의 일관성 기반으로 악성 모델 업데이트를 탐지하고 제거하기 위해 자기 신뢰성 필터를 활용한다.
• 이중 집계 프레임워크를 설계: MEC 노드에서 국소 집계 및 중앙 서버에서 전역 집계를 수행하여 클라우드 통신 부하를 감소시킨다.
• 모델 업데이트, 참가자 신원, 업데이트 품질 지표를 기록하고 변하지 않도록 블록체인에 기록하여 감사 가능성과 변조 방지 기능을 확보한다.
• 모델 업데이트 품질을 '집합적 가중치'로 정량화하여 기여의 정확성 기반 측정치로 활용하고, 이에 따라 참가자 간 수익 분배를 결정한다.
• 잠재적 이상치가 존재하는 상황에서 재가중 집계를 적용하지만, 높은 공격 비율 하에서도 수렴 실패를 방지하기 위해 신뢰성 필터링을 강화한다.

실험 결과

연구 질문

• RQ1 IoV 시스템에서 기울기 기반의 기울기 뒤집기 및 동일값 공격에 대해 분산 학습이 어떻게 강건성을 확보할 수 있는가?
• RQ2 차등적 비밀유지가 IoV 응용에서 모델 정확도를 크게 떨어뜨리지 않으면서 사용자 프라이버시를 얼마나 잘 보존할 수 있는가?
• RQ3 블록체인 기반 참가자 관리 시스템이 탈중앙화된 IoV 환경에서 모델 업데이트의 불변성과 추적 가능성을 효과적으로 확보할 수 있는가?
• RQ4 MEC 기반의 제안된 이중 집계 메커니즘이 기존 클라우드 중심의 분산 학습 대비 통신 오버헤드를 얼마나 줄이는가?
• RQ5 품질 기반 수익 분배 메커니즘이 고품질 데이터 기여자를 유인하고 전체 모델의 강건성을 향상시킬 수 있는가?

주요 결과

• 기울기 뒤집기 공격 비율 60% 상황에서 FedAvg는 30% 미만의 정확도를 기록하지만, 제안된 방법은 높은 성능 유지를 유지하며 FedAvg 및 재가중 집계보다 뛰어난 성능을 보인다.
• 동일값 공격에서 40% 및 60% 악성 공격자 비율 상황에서 재가중 집계 알고리즘이 수렴하지 못하며 정확도는 10%에 그치지만, 기울기 뒤집기 공격 시 50% 수준을 기록한다. 반면 제안된 방법은 안정성을 유지한다.
• 백도어 공격 상황에서 제안된 방법은 공격자 비율 증가와 함께 50회의 집계 라운드 후에도 공격 성공률를 9.54%로 제한하며, FedAvg 및 재가중 집계보다 뚜렷이 뛰어난 성능을 보인다.
• 제안된 프레임워크는 다양한 공격 시나리오 하에서 높은 모델 정확도와 강건성을 확보하여 데이터 수준 및 모델 수준의 오염 공격에 모두 저항력이 있음을 입증한다.
• 이중 집계 메커니즘은 국소 집계를 MEC 노드에 이양함으로써 통신 오버헤드를 감소시켜 대규모 IoV 구현의 확장성을 향상시킨다.
• 블록체인 기반 시스템은 모델 업데이트 기록의 불변성을 보장하고, 정량화된 집합적 가중치를 활용한 투명하고 신뢰할 수 없는 참가자 기여 검증을 가능하게 한다.