[논문 리뷰] Online Nonparametric Regression with General Loss Functions

Alexander Rakhlin, Karthik Sridharan|arXiv (Cornell University)|2015. 01. 26.

Advanced Bandit Algorithms Research참고 문헌 33인용 수 8

한 줄 요약

이 논문은 일반적인 볼록 리프시츠 손실 함수를 갖는 온라인 비모수 회귀에 대해 최소최대 위험률을 설정하며, 위험의 크기가 임계값 이하에서는 손실의 곡률과 함수 클래스의 순차적 복잡도에 모두 의존하는 반면, 이 이상에서는 곡률의 영향이 사라진다는 것을 보여준다. 순차적 복잡도와 i.i.d. 복잡도가 일치할 경우 통계학적 학습률과 일치하는 최적의 속도를 도출하며, 유한 전문가와 선형 회귀에 대해 이러한 속도를 달성하는 일반적이고 계산 효율적인 예측기(algorithm)를 제안한다.

ABSTRACT

This paper establishes minimax rates for online regression with arbitrary classes of functions and general losses. We show that below a certain threshold for the complexity of the function class, the minimax rates depend on both the curvature of the loss function and the sequential complexities of the class. Above this threshold, the curvature of the loss does not affect the rates. Furthermore, for the case of square loss, our results point to the interesting phenomenon: whenever sequential and i.i.d. empirical entropies match, the rates for statistical and online learning are the same. In addition to the study of minimax regret, we derive a generic forecaster that enjoys the established optimal rates. We also provide a recipe for designing online prediction algorithms that can be computationally efficient for certain problems. We illustrate the techniques by deriving existing and new forecasters for the case of finite experts and for online linear regression.

연구 동기 및 목표

• 임의의 함수 클래스와 일반적인 볼록 리프시츠 손실 함수 하에서 온라인 비모수 회귀의 최소최대 위험률을 설정하는 것.
• 위험 증가율을 결정하는 데 있어 손실 함수의 곡률과 순차적 복잡도 간의 상호작용을 규명하는 것.
• 순차적 복잡도와 i.i.d. 복잡도가 일치할 경우 온라인 학습과 통계학적 학습의 위험률이 일치함을 보이는 것.
• 최적의 위험률을 달성하는 일반적이고 계산 효율적인 예측기를 설계하는 것.
• 유한 전문가와 선형 회귀와 같은 특정 문제에 대해 효율적인 온라인 예측 알고리즘을 구성하는 방법을 제공하는 것.

제안 방법

• 함수 클래스 F의 복잡도 측정으로서 스케일 β에서의 순차적 엔트로피를 사용하며, p > 0일 때 행동이 O(β⁻ᵖ)임을 가정한다.
• 순차 라데마처 복잡도와 순차 피트-샤라프트 차원을 활용하여 위험에 대한 상한과 하한을 유도한다.
• 하나의 새로운 이중성 기반 분석 기법을 적용하여, 손실의 볼록 쌍대 함수와 일반화된 이항 전개를 이용해 부분미분의 성장률을 근사한다.
• G(손실 범위), K(곡률), n(시간 수평선)을 포함하는 항들 사이의 트레이드오프를 γ와 λ 매개변수에 대한 최적화를 통해 균형 잡는다.
• Bregman 발산 유사 갱신 방식을 갖는 정규화된 경험 위험를 최소화하는 일반적 예측기를 도입한다.
• 일반화된 이항 정리를 사용하여 손실의 이阶 전개를 근사함으로써, q ∈ (1,2)인 q-손실에 대한 곡률 분석을 가능하게 한다.

실험 결과

연구 질문

• RQ1 일반적인 볼록 손실 함수의 곡률은 온라인 비모수 회귀에서 최소최대 위험에 어떤 영향을 미치는가?
• RQ2 위험의 정확한 의존성은 함수 클래스 F의 순차적 복잡도에 어떻게 나타나는가?
• RQ3 온라인 학습과 i.i.d. 통계학적 학습이 동일한 위험률을 달성하는 조건은 무엇인가?
• RQ4 단일 일반적 예측기가 다양한 함수 클래스와 손실 함수에서 최적의 속도를 달성할 수 있는가?
• RQ5 곡률과 복잡도를 어떻게 균형 잡아 계산 효율적인 온라인 알고리즘을 설계할 수 있는가?

주요 결과

• 절대 손실의 경우, p ∈ (0,2)일 때 위험은 n¹ᐟ²로 증가하고, p > 2일 때는 n¹⁻¹ᐟᵖ로 증가하며, 이는 이전 연구에서 알려진 결과와 일치한다.
• 제곱 손실의 경우, p ∈ (0,2)일 때 위험은 n¹⁻²ᐟ⁽²⁺ᵖ⁾로 증가하고, p > 2일 때는 n¹⁻¹ᐟᵖ로 증가하며, p ∈ (0,2) 영역에서는 곡률이 핵심 역할을 한다.
• 순차적 및 i.i.d. 경험 엔트로피가 일치할 경우, 온라인 위험률은 i.i.d. 데이터를 사용한 통계학적 학습 이론에서의 최적 속도와 정확히 일치한다.
• p > 2(rich 클래스)일 경우, 제곱 손실과 절대 손실 모두 위험률이 n¹⁻¹ᐟᵖ로 동일하게 나타나, 이 영역에서는 손실의 강한 볼록성의 영향이 없음을 시사한다.
• 제안된 일반적 예측기는 확립된 최적의 위험률을 달성하며, 순차적 라데마처 복잡도와 곡률 분석을 통해 명시적인 상한이 유도된다.
• q ∈ (1,2)인 q-손실의 경우, 손실은 매개변수 q(q−1)/2로 강한 볼록성을 가지며, 손실의 이阶 전개에 대한 상한은 2q(q−1)x²로 주어져 위험 제어를 엄밀하게 가능하게 한다.