[논문 리뷰] An Efficient and Reliable Asynchronous Federated Learning Scheme for Smart Public Transportation

Chenhao Xu, Youyang Qu외 4명|arXiv (Cornell University)|2022. 08. 15.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 스마트 공공교통 환경을 위한 블록체인 기반 이방형 분산 학습 기법인 DBAFL을 제안한다. 이 기법은 학습 성능, 효율성, 신뢰성을 향상시키며, 저지연 신뢰를 확보하기 위해 위원회 기반 공식 알고리즘을 통합하고, 오래된 국지 모델의 최적 가중치를 설정하기 위해 동적 스케일링 인자를 도입함으로써 수렴 속도를 놨고, 오염 및 DDoS 공격에 강력한 저항성을 확보한다. 이는 이질적 환경에서 최신 기술보다 뛰어난 성능을 발휘한다.

ABSTRACT

Since the traffic conditions change over time, machine learning models that predict traffic flows must be updated continuously and efficiently in smart public transportation. Federated learning (FL) is a distributed machine learning scheme that allows buses to receive model updates without waiting for model training on the cloud. However, FL is vulnerable to poisoning or DDoS attacks since buses travel in public. Some work introduces blockchain to improve reliability, but the additional latency from the consensus process reduces the efficiency of FL. Asynchronous Federated Learning (AFL) is a scheme that reduces the latency of aggregation to improve efficiency, but the learning performance is unstable due to unreasonably weighted local models. To address the above challenges, this paper offers a blockchain-based asynchronous federated learning scheme with a dynamic scaling factor (DBAFL). Specifically, the novel committee-based consensus algorithm for blockchain improves reliability at the lowest possible cost of time. Meanwhile, the devised dynamic scaling factor allows AFL to assign reasonable weights to stale local models. Extensive experiments conducted on heterogeneous devices validate outperformed learning performance, efficiency, and reliability of DBAFL.

연구 동기 및 목표

• 동적이고 자원이 제한된 스마트 공공교통 환경에서 동기식 분산 학습(FL)의 비효율성과 신뢰성 부족 문제를 해결한다.
• 블록체인의 탈중앙화된 신뢰 모델을 활용해 FL에서의 오염 및 DDoS 공격과 같은 보안 위험을 완화한다.
• 오래된 국지 모델에 합리적인 가중치를 부여하여 이방형 FL에서 학습 성능을 향상시키고, 수렴 불안정성을 방지한다.
• 탈중앙화된 신뢰 메커니즘에도 불구하고 공식 합의 과정에서의 블록체인 오버헤드를 최소화하여 높은 학습 효율성을 유지한다.
• 인터넷 오브 차이즈(IoV) 네트워크에서 이질적인 차량과 도로변 단말기(RSUs) 간에 확장 가능하고 실시간으로 모델 업데이트를 가능하게 한다.

제안 방법

• 랜덤으로 선출된 위원회 리더가 국지 데이터셋을 사용하여 주기적으로 국지 모델 업데이트를 검증하고 확인하는 새로운 위원회 기반 공식 알고리즘을 도입한다.
• 위원회 리더를 통해 정확도가 낮은 국지 모델을 탐지하고 가중치를 낮춰 오염 공격에 대한 저항력을 높이며, 전체 네트워크의 공식 합의를 요구하지 않는다.
• 모든 국지 모델 수신 즉시 모델 업데이트를 트리거하는 이방형 집계 전략을 구현하여 느린 노드를 기다리는 시간을 제거한다.
• 정확도와 오래됨 정도에 따라 국지 모델에 가중치를 할당하는 동적 스케일링 인자를 설계하여 글로벌 모델의 수렴을 향상시킨다.
• 가벼운 위원회 운영을 통해 통신 및 계산 비용을 최소화하면서도, 모델 업데이트의 투명성과 불변성을 확보하기 위해 블록체인을 통합한다.
• 공격자가 집계 서버를 표적으로 삼는 것을 방지하기 위해 해시 기반 무작위화 메커니즘을 사용해 새로운 위원회 리더를 선출한다.

실험 결과

연구 질문

• RQ1 실시간 FL을 동적 IoV 환경에서 지원하기 위해 블록체인 기반 공식 메커니즘의 효율성을 확보할 수 있을까? 이는 상당한 지연을 유발하지 않는다.
• RQ2 이방형 FL에서 오래된 국지 모델을 효과적으로 가중치를 할당하면 학습 안정성과 글로벌 모델 정확도를 어떻게 향상시킬 수 있을까?
• RQ3 이동성과 탈중앙화가 특징인 IoV 환경에서 위원회 기반 공식 모델이 오염 및 DDoS 공격에 얼마나 잘 저항할 수 있을까?
• RQ4 제안된 동적 스케일링 인자는 고정 가중치 또는 오래된 모델을 기각하는 방식과 비교해 수렴 속도와 최종 모델 정확도에 어떤 영향을 미칠까?
• RQ5 공공교통 시스템에 블록체인을 통합한 FL에서 보안, 효율성, 확장성 간의 상호 상충 관계는 어떠한가?

주요 결과

• DBAFL은 순수 이방형 기준선인 ASOFED보다 총 학습 라운드 시간이 오직 0.97초 더 길어 블록체인 오버헤드가 극히 적음을 보여준다.
• 모든 평가된 방법 중에서 가장 짧은 학습 라운드 시간을 기록하며, 낭비되는 대기 시간이 없어 동기식 기법인 FedAVG와 BSFL을 뛰어넘는다.
• DBAFL은 오염 공격 상황에서도 안정적인 수렴을 유지하며, 최종적으로 46–49%의 테스트 정확도에 도달한다. 정확도가 80–90% 미만인 모델을 기각할 경우 성능이 더욱 향상된다.
• DDoS 공격 상황에서 DBAFL의 수렴 시간은 공격 트래픽이 90%일지라도 거의 변화가 없으며, 전통적인 AFL은 40초에서 200초로 악화된다.
• 동적 스케일링 인자는 오래된 모델에 적절한 가중치를 할당하여 학습 성능을 크게 안정화시키고, 수렴 불안정성을 방지한다.
• 네트워크 크기가 10에서 100개 노드로 증가함에 따라, DBAFL은 동기식 기법과 다른 블록체인 기반 FL 방법에 비해 뛰어난 확장성을 유지한다.