[논문 리뷰] Distributed Online Learning with Multiple Kernels

Jeongmin Chae, Song‐Nam Hong|arXiv (Cornell University)|2021. 02. 25.

Advanced Adaptive Filtering Techniques인용 수 4

한 줄 요약

이 논문은 IoT 네트워크에서 스트리밍 데이터를 위한 다중 커널을 갖춘 완전히 탈중앙화된 온라인 학습 프레임워크인 DOMKL을 제안한다. 온라인 ADMM와 분산 헤지 알고리즘을 결합하여, 각 노드가 시간이 지남에 따라 점점 줄어드는 오차로 공유되는 비선형 함수를 학습하면서도 데이터 프라이버시를 유지할 수 있도록 ${\cal O}(\sqrt{T})$의 최적의 정규화 오차를 달성한다.

ABSTRACT

We consider the problem of learning a nonlinear function over a network of learners in a fully decentralized fashion. Online learning is additionally assumed, where every learner receives continuous streaming data locally. This learning model is called a fully distributed online learning (or a fully decentralized online federated learning). For this model, we propose a novel learning framework with multiple kernels, which is named DOMKL. The proposed DOMKL is devised by harnessing the principles of an online alternating direction method of multipliers and a distributed Hedge algorithm. We theoretically prove that DOMKL over T time slots can achieve an optimal sublinear regret, implying that every learner in the network can learn a common function which has a diminishing gap from the best function in hindsight. Our analysis also reveals that DOMKL yields the same asymptotic performance of the state-of-the-art centralized approach while keeping local data at edge learners. Via numerical tests with real datasets, we demonstrate the effectiveness of the proposed DOMKL on various online regression and time-series prediction tasks.

연구 동기 및 목표

• 지속적인 스트리밍 데이터 환경에서 비선형 함수를 탈중앙화되고 개인정보 보호가 보장된 방식으로 학습하는 데 도전하는 것.
• 중앙 집중화된 데이터 없이 다중 커널 학습(MKL)을 지원하는 분산 온라인 학습 프레임워크를 개발하는 것.
• 완전히 탈중앙화된 네트워크에서 선형 이하의 정규화 오차를 달성하면서도 지역 데이터 프라이버시를 유지하는 것.
• 확장성과 실시간 성능을 갖춘 분산 환경으로 온라인 커널 학습을 확장하는 것.

제안 방법

• DOMKL은 탈중앙화된 노드 간의 학습을 조율하기 위해 온라인 분할 역할 방법(ADMM)을 사용한다.
• 정의된 P개의 커널 사전에서 최적의 커널 조합을 동적으로 선택하기 위해 분산 헤지 알고리즘을 통합한다.
• 계산 복잡도를 줄이고 온라인 업데이트를 가능하게 하기 위해 무작위 특징 근사 기법을 사용한다.
• 각 노드는 모델 파라미터와 이중 변수의 국지적 추정치를 유지하며, 공감 및 국지 데이터를 통해 이를 업데이트한다.
• 알고리즘은 ADMM를 통해 공감 제약 조건을 강제하고, 지수 가중치를 통해 커널 선택을 균형 잡음으로써 수렴을 보장한다.
• 이론적 분석을 통해 정규화 오차가 ${\cal O}(\sqrt{T})$ 비율로 증가함을 증명하였으며, 이는 중앙 집중식 온라인 MKL의 성능과 일치한다.

실험 결과

연구 질문

• RQ1 완전히 탈중앙화된 온라인 학습 시스템이 다중 커널을 사용하여 비선형 함수 학습에서 선형 이하의 정규화 오차를 달성할 수 있는가?
• RQ2 스트리밍 데이터 환경에서 분산되고 개인정보 보호가 보장된 방식으로 커널 선택을 어떻게 동적으로 최적화할 수 있는가?
• RQ3 제안된 프레임워크는 데이터 중앙 집중화 없이도 중앙 집중식 온라인 MKL의 渐진적 성능을 따라할 수 있는가?
• RQ4 네트워크 구조와 통신 제약 조건이 분산 온라인 MKL의 수렴성과 정규화 오차에 미치는 영향은 무엇인가?

주요 결과

• DOMKL은 $T$ 시간 슬롯 동안 최적의 선형 이하 정규화 오차 ${\cal O}(\sqrt{T})$를 달성하여 학습 오차가 시간이 지남에 따라 점점 줄어듦을 보장한다.
• 프레임워크는 최신 기술의 중앙 집중식 온라인 다중 커널 학습 방법의 渐진적 성능을 그대로 따라간다.
• 실제 데이터셋에 대한 수치적 평가를 통해 DOMKL이 온라인 회귀 및 시계열 예측 과제에서 효과적임을 확인하였다.
• 알고리즘은 엣지 장치에서 지역 데이터를 유지함으로써 IoT 애플리케이션에서 요구하는 강력한 프라이버시 요구사항을 충족시킨다.
• 정규화 오차의 경계는 호프딩 부등식과 텔레스코프 합 기법을 사용하여 유도되었으며, 이론적 수렴성의 타당성을 입증하였다.
• 특히 $\eta_g = {\cal O}(\sqrt{T})$와 같은 매개변수 튜닝이 선형 이하 정규화 오차 달성을 보장한다.