[논문 리뷰] Real-time End-to-End Federated Learning: An Automotive Case Study

Hongyi Zhang, Jan Bosch외 1명|arXiv (Cornell University)|2021. 03. 22.

Privacy-Preserving Technologies in Data참고 문헌 28인용 수 7

한 줄 요약

이 논문은 이질적인 엣지 디바이스에서 효율적이고 프라이버시를 보장하는 모델 훈련을 가능하게 하는 슬라이딩 윈도우와 기반 버전 집합 기반의 비동기, 실시간 엔드 투 엔드 연합 학습 프레임워크를 제안한다. 중심 집합 학습 대비 훈련 속도가 약 70% 빠르고 대역폭 소비가 약 60% 감소했으며, 예측 정확도는 동기 연합 학습 및 중심 집합 방법과 동일하거나 이를 초월한다.

ABSTRACT

With the development and the increasing interests in ML/DL fields, companies are eager to apply Machine Learning/Deep Learning approaches to increase service quality and customer experience. Federated Learning was implemented as an effective model training method for distributing and accelerating time-consuming model training while protecting user data privacy. However, common Federated Learning approaches, on the other hand, use a synchronous protocol to conduct model aggregation, which is inflexible and unable to adapt to rapidly changing environments and heterogeneous hardware settings in real-world scenarios. In this paper, we present an approach to real-time end-to-end Federated Learning combined with a novel asynchronous model aggregation protocol. Our method is validated in an industrial use case in the automotive domain, focusing on steering wheel angle prediction for autonomous driving. Our findings show that asynchronous Federated Learning can significantly improve the prediction performance of local edge models while maintaining the same level of accuracy as centralized machine learning. Furthermore, by using a sliding training window, the approach can minimize communication overhead, accelerate model training speed and consume real-time streaming data, proving high efficiency when deploying ML/DL components to heterogeneous real-world embedded systems.

연구 동기 및 목표

• 실세계의 이질적인 엣지 환경, 특히 기기 성능과 네트워크 조건이 변동성이 큰 자동차 시스템에서 동기 연합 학습의 유연성 부족 문제를 해결하기 위해.
• 원시 데이터를 중앙 집중화하지 않고 스트리밍 데이터에서 엣지 디바이스에서 실시간으로 엔드 투 엔드 머신 러닝 모델을 훈련시키기 위해.
• 기기 이질성과 동적 워크로드에 대응할 수 있도록 동기 집합 기반의 훈련을 비동기 프로토콜로 대체하여 훈련 효율성과 확장성을 향상시키기 위해.
• 실세계 자동차 응용 사례인 조향 휠 각도 예측을 통해 제안된 방법의 성능을 검증하여 중심 집합 학습과 동등하거나 이를 뛰어넘는 성능을 입증하기 위해.
• 스트리밍 데이터 처리를 위한 슬라이딩 윈도우 메커니즘을 도입하여 분산 엣지 학습에서의 통신 오버헤드와 훈련 시간을 줄이기 위해.

제안 방법

• 해당 방법은 기반 버전 기반의 비동기 모델 집합 프로토콜을 사용하여 서버가 모든 기기의 업데이트를 기다리지 않고 도착하는 그대로 업데이트를 수락할 수 있도록 한다.
• 실시간 스트리밍 데이터 처리를 위해 슬라이딩 윈도우 메커니즘이 사용되며, 저장 공간 요구량을 최소화하고 지속적인 모델 훈련을 가능하게 한다.
• 시간적 및 공간적 특징을 활용하여 영상 입력에서 직접 조향 휠 각도를 예측하기 위해 엔드 투 엔드로 훈련된 이중 스트림 3D-CNN 모델이 사용된다.
• 하이브리드 훈련 환경을 사용한다: GPU를 탑재한 엣지 차량(V100 및 T4)이 로컬에서 훈련하고, 서버는 기반 버전 업데이트에 따라 비동기적으로 모델을 집합한다.
• 업데이트 빈도를 제어하고 통신 오버헤드를 줄이기 위해 집합 프로토콜이 하한 및 상한 주파수 임계값(a_l 및 a_u)으로 제한된다.
• 모델 업데이트는 전체 모델 전송보다 대역폭 비용을 줄이기 위해 압축된 가중치 벡터 형태로 전송된다.

Figure 1: A typical Federated Learning System is depicted in the diagram. The light blue components are related to the model, while the red components are related to the data.

실험 결과

연구 질문

• RQ1 실시간 스트리밍 데이터를 활용한 비동기 연합 학습이 자율주행에서 중심 집합 학습과 동등하거나 더 높은 예측 정확도를 달성할 수 있는가?
• RQ2 제안된 비동기 집합 프로토콜은 동기 연합 학습 및 중심 집합 훈련 대비 훈련 속도와 통신 효율성 측면에서 어떻게 성능을 발휘하는가?
• RQ3 슬라이딩 윈도우 메커니즘이 엣지 기반 모델 훈련에서 저장 공간과 통신 오버헤드를 어느 정도 줄이는가?
• RQ4 실세계 자동차 구현 환경에서 기기 이질성과 변동성이 큰 네트워크 조건을 어떻게 처리하는가?
• RQ5 기반 버전 기반의 집합 프로토콜이 분산된 실시간 환경에서 수렴 속도와 모델 성능에 어떤 영향을 미치는가?

주요 결과

• 비동기 연합 학습은 중심 집합 학습 대비 총 훈련 시간을 약 70% 단축시켰으며, 기준 모델 대비 수렴 속도가 70% 빠르게 되었다.
• 비동기 방법은 중심 집합 학습 대비 대역폭 소비를 약 60% 감소시켰으며, 네 대의 차량 간 총 전송량이 0.78 GB에 그쳤다.
• 비동기 접근 방식은 동기 연합 학습 대비 회귀 오차가 0.2~0.4 정도 낮아, 더 뛰어난 예측 성능을 보였다.
• 모델 정확도는 중심 집합 학습 및 동기 연합 학습과 동등하거나 이를 초월했으며, 분산 훈련임에도 불구하고 성능의 유사성을 입증했다.
• 슬라이딩 윈도우 메커니즘은 개별 엣지 기기에서 대규모 데이터 저장이 필요 없이 실시간 스트리밍 데이터를 효율적으로 처리할 수 있도록 했다.
• 훈련 효율성과 수렴 속도 측면에서 비동기 연합 학습과 로컬 독립 훈련 모두를 뛰어넘는 성능을 보였다.

(a) Vehicle 1: Highway & City