[논문 리뷰] Federated Learning on the Road: Autonomous Controller Design for Connected and Autonomous Vehicles

Tengchan Zeng, Omid Semiari외 3명|arXiv (Cornell University)|2021. 02. 05.

Privacy-Preserving Technologies in Data인용 수 11

한 줄 요약

이 논문은 연결형 자율주행차(CAV) 간의 협업적이고 분산형 학습을 통해 자율주행차 제어기를 훈련하기 위한 동적 플러드 프록시(DFP) 학습 프레임워크를 제안한다. 이동성, 무선 채널의 감쇠, 비독립 동일분포(iid)이 아닌 불균형 데이터를 고려함으로써, DFP 알고리즘은 FedAvg 및 FedProx보다 40% 빠른 수렴 속도를 달성하였으며, 실제 차량 데이터 트레이스를 통해 검증되었다.

ABSTRACT

A new federated learning (FL) framework enabled by large-scale wireless connectivity is proposed for designing the autonomous controller of connected and autonomous vehicles (CAVs). In this framework, the learning models used by the controllers are collaboratively trained among a group of CAVs. To capture the varying CAV participation in the FL training process and the diverse local data quality among CAVs, a novel dynamic federated proximal (DFP) algorithm is proposed that accounts for the mobility of CAVs, the wireless fading channels, as well as the unbalanced and nonindependent and identically distributed data across CAVs. A rigorous convergence analysis is performed for the proposed algorithm to identify how fast the CAVs converge to using the optimal autonomous controller. In particular, the impacts of varying CAV participation in the FL process and diverse CAV data quality on the convergence of the proposed DFP algorithm are explicitly analyzed. Leveraging this analysis, an incentive mechanism based on contract theory is designed to improve the FL convergence speed. Simulation results using real vehicular data traces show that the proposed DFP-based controller can accurately track the target CAV speed over time and under different traffic scenarios. Moreover, the results show that the proposed DFP algorithm has a much faster convergence compared to popular FL algorithms such as federated averaging (FedAvg) and federated proximal (FedProx). The results also validate the feasibility of the contract-theoretic incentive mechanism and show that the proposed mechanism can improve the convergence speed of the DFP algorithm by 40% compared to the baselines.

연구 동기 및 목표

• 다양하고 동적인 교통 및 도로 조건에 적응하는 강건한 자율주행 제어기를 설계하는 데 도전한다.
• 자료 부족과 환경 변동성에 의해 실패하는 전통적인 피드백 기반 및 로컬 학습 기반 제어기의 한계를 극복한다.
• 플러드 학습을 통해 CAV 간의 협업적이고 분산형 학습을 가능하게 하여 일반화 능력과 성능을 향상시킨다.
• 다양한 CAV 참여도, 무선 채널 상태, 이질적인 데이터 품질을 고려한 동적이고 적응형 학습 프레임워크를 설계한다.
• 데이터 품질과 기여도를 기반으로 CAV의 참여 유인과 글로벌 모델 수렴을 조율하는 계약 이론 기반 인centive 메커니즘을 개발한다.

제안 방법

• CAV 이동성의 시간적 동적 특성과 무선 채널 감쇠를 플러드 학습 최적화 과정에 통합한 동적 플러드 프록시(DFP) 알고리즘을 제안한다.
• 시간에 따라 변화하는 클라이언트 참여도와 CAV 간 비독립 동일분포(iid)가 아닌 데이터 분포를 고려하여 플러드 학습 과정을 확률적 최적화 문제로 모델링한다.
• 데이터 이질성에 의한 훈련 불안정성과 모델 분산을 줄이기 위해 손실 함수에 프록시 항을 통합한다.
• 데이터 품질과 기여도를 기반으로 CAV의 참여 유인과 글로벌 모델 수렴을 조율하는 계약 이론 기반 인센티브 메커니즘을 설계한다.
• BDD100K 및 기타 데이터셋에서 확보한 실제 차량 데이터 트레이스를 사용하여 다양한 교통 시나리오를 시뮬레이션하고 제어기 성능을 검증한다.
• CAV 참여도의 변동성과 데이터 품질이 모델 수렴 속도에 미치는 영향을 정량화하기 위해 철저한 수렴 분석을 수행한다.

실험 결과

연구 질문

• RQ1 플러드 학습에서 CAV의 참여도가 변동할 경우 자율주행 제어기 학습의 수렴 속도에 어떤 영향을 미치는가?
• RQ2 이질적이고 비독립 동일분포(iid)이며 품질이 낮은 로컬 데이터가 CAV의 플러드 학습 성능에 어떤 영향을 미치는가?
• RQ3 동적 플러드 프록시 알고리즘이 차량 네트워크의 이동성과 무선 채널 변동성에 의해 발생하는 상황에서 훈련을 효과적으로 안정화시킬 수 있는가?
• RQ4 계약 이론 기반 인센티브 메커니즘이 플러드 학습 기반 제어기 학습 과정의 수렴 속도와 참여도를 어느 정도 향상시킬 수 있는가?
• RQ5 제안된 DFP 기반 제어기는 다양한 교통 시나리오에서 목표 차량 속도를 추적하는 데 FedAvg 및 FedProx와 비교해 어떻게 성능이 뛰어나게 되는가?

주요 결과

• 제안된 DFP 알고리즘은 실제 차량 데이터 트레이스를 사용한 시뮬레이션에서 FedAvg 및 FedProx보다 40% 빠른 수렴 속도를 달성한다.
• DFP 알고리즘은 비독립 동일분포(iid) 데이터와 변동하는 CAV 참여도 조건 하에서도 훈련을 효과적으로 안정화시키며, 이론적 수렴 보장이 있다.
• 계약 이론 기반 인센티브 메커니즘은 데이터 품질과 기여도를 기반으로 CAV의 참여 유인과 글로벌 모델 성능을 조율하여 수렴 속도를 40% 향상시켰다.
• DFP 기반 제어기는 정체 및 정체 해소, 고속도로 융합 시나리오를 포함한 다양한 교통 조건에서도 목표 차량 속도를 정확히 추적한다.
• 수렴 속도 분석 결과, 데이터 품질과 참여 빈도가 플러드 학습 성능에 결정적인 요소임을 확인하였으며, DFP 알고리즘이 이를 효과적으로 완화함을 입증하였다.
• 시뮬레이션 결과, 협업 학습 프레임워크가 로컬 학습 전용 방식에 비해 제어 정확도와 강건성 측면에서 뚜렷한 성능 향상을 보였다.