[논문 리뷰] AdaptiveFL: Adaptive Heterogeneous Federated Learning for Resource-Constrained AIoT Systems

Chentao Jia, Ming Hu외 5명|arXiv (Cornell University)|2023. 11. 22.

Privacy-Preserving Technologies in Data참고 문헌 19인용 수 4

한 줄 요약

AdaptiveFL은 자원 제약이 있는 AIoT 시스템을 위한 혁신적인 분산 학습 프레임워크를 제안하며, 장치별 자원에 맞게 세분화된 너비 방향 모델 프루닝을 사용하여 이질적인 로컬 모델을 생성한다. 강화학습 기반의 동적 디바이스 선택과 적응형 모델 디스패칭을 결합함으로써, AdaptiveFL은 IID 및 비-IID 데이터 분포 모두에서 최신 기술 대비 최대 16.83% 높은 추론 정확도를 달성한다.

ABSTRACT

Although Federated Learning (FL) is promising to enable collaborative learning among Artificial Intelligence of Things (AIoT) devices, it suffers from the problem of low classification performance due to various heterogeneity factors (e.g., computing capacity, memory size) of devices and uncertain operating environments. To address these issues, this paper introduces an effective FL approach named AdaptiveFL based on a novel fine-grained width-wise model pruning strategy, which can generate various heterogeneous local models for heterogeneous AIoT devices. By using our proposed reinforcement learning-based device selection mechanism, AdaptiveFL can adaptively dispatch suitable heterogeneous models to corresponding AIoT devices on the fly based on their available resources for local training. Experimental results show that, compared to state-of-the-art methods, AdaptiveFL can achieve up to 16.83% inference improvements for both IID and non-IID scenarios.

연구 동기 및 목표

• AIoT 시스템에서 하드웨어 이질성과 비-IID 데이터로 인한 성능 저하 문제를 해결한다.
• 기존의 이질적 FL 방법들이 굵은 단위의 프루닝에 의존하거나 외부 데이터셋이 필요해 데이터 프라이버시를 위협하는 한계를 극복한다.
• 실시간 장치 자원 가용성을 기반으로 동적으로 모델을 디스패칭하여 글로벌 모델 성능을 최대화한다.
• 지능적인 디바이스 선택을 통해 모델 전송 불일치를 최소화함으로써 통신 오버헤드를 감소시킨다.
• 불확실하고 동적인 운영 조건에서 다양한 AIoT 장치 구성에 대해 강력한 일반화성과 내구성을 확보한다.

제안 방법

• 전체 레이어가 아닌 레이어 내부의 채널을 선택적으로 프루닝하는 세분화된 너비 방향 모델 프루닝 전략을 도입하여, 모델 용량을 유지하면서 크기를 줄인다.
• 이력 모델 크기와 자원 가용성을 기반으로 장치를 선택하는 강화학습(RL) 기반의 클라이언트 선택 메커니즘을 활용하여 통신 낭비를 최소화한다.
• 자원 보상과 호기심 보상의 이중 보상 신호를 사용하여 디바이스 선택에서 효율성과 탐색의 균형을 맞춘다.
• 추가 어댑터나 파라미터 재초기화 없이도 프루닝된 모델을 장치에서 직접 학습할 수 있어 즉시 사용이 가능한 배포를 가능하게 한다.
• 프루닝된 모델이 더 큰 글로벌 모델의 지식을 상속할 수 있도록, 파라미터 전달을 통해 암묵적으로 지식 정복 원리를 적용한다.
• 적응형 프루닝을 통해 생성된 이질적 로컬 모델을 FedAvg를 통해 집계함으로써, 표준 FL 파이프라인과의 호환성을 유지한다.

실험 결과

연구 질문

• RQ1 자원 가용성이 동적으로 변화하는 고도로 이질적인 장치를 갖춘 AIoT 시스템에 대해 분산 학습을 어떻게 효과적으로 적응시킬 수 있는가?
• RQ2 세분화된 너비 방향 프루닝은 이질적 FL 환경에서 굵은 단위의 프루닝이나 레이어 수준의 프루닝 대비 얼마나 모델 성능 향상에 기여하는가?
• RQ3 강화학습 기반의 디바이스 선택 전략은 자원 제약이 있는 분산 학습 환경에서 통신 오버헤드를 줄이고 학습 효율을 향상시키는가?
• RQ4 비-IID 데이터 분포와 강력한, 중간 수준의, 약한 장치의 비율이 다양한 상황에서 AdaptiveFL의 성능은 어떠한가?
• RQ5 적응형, 이질적 분산 학습 환경에서 모델 크기, 추론 정확도, 통신 효율성 간의 상호 상충 관계는 어떠한가?

주요 결과

• AdaptiveFL은 IID 및 비-IID 상황 모두에서 최신 기술 대비 최대 16.83% 높은 테스트 정확도를 달성하여 뛰어난 일반화 능력을 입증한다.
• 세분화된 너비 방향 프루닝 전략은 굵은 단위의 프루닝 대비 최대 9.38% 높은 추론 정확도 향상을 이끌었으며, 특히 CIFAR-100에서 ResNet18과 같은 깊은 모델에 유리하다.
• RL 기반 클라이언트 선택 메커니즘은 통신 낭비율 측정 기준으로, 게으른 또는 무작위 선택 전략 대비 통신 낭비를 30–40% 감소시켰다.
• 17대의 이질적 장치(Raspberry Pi, Jetson Nano, Jetson Xavier)로 구성된 실제 테스트 베드에서 AdaptiveFL은 모든 베이스라인 대비 학습 곡선과 최종 정확도에서 뛰어난 성능을 보였다.
• 절단 실험에서 자원 보상과 호기심 보상 모두를 포함한 전체 AdaptiveFL 모델이 가장 높은 정확도와 가장 낮은 통신 낭비를 기록하여 이중 보상 RL 설계의 효과성을 입증했다.
• 강력한 장치 비율이 낮은 경우(예: 1:8:1)에도 높은 성능을 유지하여, 장치 능력의 불균형에 대한 내구성을 입증했다.