[논문 리뷰] Distributed Online Linear Regression

Deming Yuan, Alexandre Proutière외 1명|arXiv (Cornell University)|2019. 02. 13.

Advanced Bandit Algorithms Research참고 문헌 33인용 수 13

한 줄 요약

이 논문은 분산된 데이터로부터 공동으로 글로벌 선형 예측기를 학습하는 네트워크에서 분산형 온라인 선형 회귀 알고리즘을 제안한다. 각 노드는 국소적 경사 하강법을 수행하고 이웃과 소통하여 예측기 간의 일치를 도모하며, 결정 집합이 유계이거나 무한대일 경우 각각 $\mathcal{O}(T^{3/4})$ 및 $\mathcal{O}(√{T})$의 리그레트 한계를 달성한다. 이는 전체 정보 및 밴딧 피드백 모두에서 성립한다.

ABSTRACT

We study online linear regression problems in a distributed setting, where the data is spread over a network. In each round, each network node proposes a linear predictor, with the objective of fitting the \emph{network-wide} data. It then updates its predictor for the next round according to the received local feedback and information received from neighboring nodes. The predictions made at a given node are assessed through the notion of regret, defined as the difference between their cumulative network-wide square errors and those of the best off-line network-wide linear predictor. Various scenarios are investigated, depending on the nature of the local feedback (full information or bandit feedback), on the set of available predictors (the decision set), and the way data is generated (by an oblivious or adaptive adversary). We propose simple and natural distributed regression algorithms, involving, at each node and in each round, a local gradient descent step and a communication and averaging step where nodes aim at aligning their predictors to those of their neighbors. We establish regret upper bounds typically in ${\cal O}(T^{3/4})$ when the decision set is unbounded and in ${\cal O}(\sqrt{T})$ in case of bounded decision set.

연구 동기 및 목표

• 분산되고 개인정보 보호가 보장되는 환경에서 네트워크 내에서 선형 회귀를 위한 분산형 온라인 학습 알고리즘을 설계한다.
• 누적 네트워크 전체 제곱 손실에서 최적의 오프라인 손실을 빼어 정의된 리그레트를 최소화한다.
• 전체 정보 및 밴딧 피드백 모두에서 성능을 분석하고, 무감지 또는 적응형 적대자 상황에서도 성능을 평가한다.
• 제한된 통신과 국소 피드백 조건 하에서 분산 환경에서의 하위선형 리그레트 한계를 확립한다.

제안 방법

• 각 노드는 매 라운드마다 자신의 데이터와 피드백을 이용해 국소적 경사 하강법 단계를 수행한다.
• 노드들은 이웃과 소통하여 공감 단계를 수행하고, 예측기를 평균화하여 네트워크 전반의 불일치를 줄인다.
• 학습과 일치 조정을 균형 있게 유지하기 위해 국소 업데이트와 통신 단계를 번갈아 수행한다.
• 리그레트 분석은 누적 경사 노름과 노드 간 예측기 불일치의 누적치를 제한하는 데 기반한다.
• 이론적 분석은 노름과 사영을 포함한 부등식을 사용하여 예측 오차를 최적 예측기에서의 이탈과 연결한다.
• 핵심 기술적 구성 요소로는 최적 해 집합까지의 초기 거리에 대한 사영 기반 한계의 사용이다.

실험 결과

연구 질문

• RQ1 데이터가 네트워크에 분산되어 있고 국소 피드백만 제공되는 조건에서 분산형 온라인 선형 회귀가 하위선형 리그레트를 달성할 수 있는가?
• RQ2 전체 정보와 밴딧 피드백 간의 선택이 분산형 온라인 회귀에서 리그레트 성능에 미치는 영향은 어떠한가?
• RQ3 유계 결정 집합과 무한대 결정 집합이 분산형 온라인 학습에서 리그레트 한계에 미치는 영향은 무엇인가?
• RQ4 통신 및 공감 단계가 국소 학습과 어떻게 상호작용하여 리그레트의 전역 수렴을 보장하는가?

주요 결과

• 결정 집합이 무한대일 경우 제안된 알고리즘이 $\mathcal{O}(T^{3/4})$의 리그레트 한계를 달성한다.
• 유계 결정 집합의 경우 리그레트는 $\mathcal{O}(\sqrt{T})$로 스케일링되며, 이는 중심화된 환경에서 알려진 최적 비율과 일치한다.
• 리그레트 분석은 누적 경사 노름과 노드 간 예측기 불일치가 성능 한계에 핵심적인 영향을 미친다는 것을 입증한다.
• 이 방법은 분산된 데이터와 제한된 피드백 조건 하에서도 모든 노드가 공동으로 글로벌 최적 예측기를 추적함을 보장한다.
• 무감지 및 적응형 적대자 조건 모두에서 분석이 성립하여, 데이터 생성 방식에 대한 강건성을 입증한다.