[논문 리뷰] Unregularized Online Learning Algorithms with General Loss Functions

Yiming Ying, Ding‐Xuan Zhou|arXiv (Cornell University)|2015. 03. 02.

Sparse and Compressive Sensing Techniques참고 문헌 40인용 수 3

한 줄 요약

이 논문은 재생 커널 힐버트 공간(RKHS)에서 일반적인 $\alpha$-활성화 손실 함수를 갖는 정규화되지 않은 온라인 학습 알고리즘의 수렴 속도를 증명하며, 새로운 귀납 기반 증명 기법을 사용한다. 다항형 감쇠 단계 크기 하에서 명시적인 수렴 속도를 제공하고, 분류 및 쌍별 학습 과제에 대해 마지막 반복의 수렴을 증명하여, 이전 연구에서 정규화 또는 리프시츠 연속 기울기 조건을 초월한다.

ABSTRACT

In this paper, we consider unregularized online learning algorithms in a Reproducing Kernel Hilbert Spaces (RKHS). Firstly, we derive explicit convergence rates of the unregularized online learning algorithms for classification associated with a general gamma-activating loss (see Definition 1 in the paper). Our results extend and refine the results in Ying and Pontil (2008) for the least-square loss and the recent result in Bach and Moulines (2011) for the loss function with a Lipschitz-continuous gradient. Moreover, we establish a very general condition on the step sizes which guarantees the convergence of the last iterate of such algorithms. Secondly, we establish, for the first time, the convergence of the unregularized pairwise learning algorithm with a general loss function and derive explicit rates under the assumption of polynomially decaying step sizes. Concrete examples are used to illustrate our main results. The main techniques are tools from convex analysis, refined inequalities of Gaussian averages, and an induction approach.

연구 동기 및 목표

• 일반적인 $\alpha$-활성화 손실 함수를 갖는 정규화되지 않은 온라인 학습 알고리즘의 명시적 수렴 속도를 확립하는 것.
• 마지막 반복의 수렴을 보장하는 단계 크기의 일반 조건을 유도하여, 고정되거나 특수한 감쇠 형태를 초월하는 것.
• 이론적 결과를 쌍별 학습으로 확장하여, 일반적인 손실 함수를 갖는 정규화되지 않은 알고리즘의 수렴성을 증명하고 속도를 유도하는 것.
• 정규화를 피하고 비리프시츠 손실 함수를 다룰 수 있도록 보완된 볼록 해석 도구를 통해 이전 연구의 한계를 극복하는 것.

제안 방법

• 정규화에 의존하지 않는 마지막 반복의 수렴을 분석하기 위해 새로운 귀납 접근법을 사용한다.
• 가우시안 평균과 라데마처 평균의 정밀한 부등식을 적용하여 가설 공간의 복잡도를 통제한다.
• 볼록 해석 도구를 활용하여 일반적인 $\alpha$-활성화 손실 함수를 다루며, 이는 볼록성, 미분 가능성 및 도함수의 허더링 연속성에 의해 정의된다.
• 오차 $R_t$, 단계 크기 $\gamma_t$, 커널 함수의 노름을 포함하는 재귀 부등식을 유도하여 수렴 속도를 경계한다.
• 핵심 재귀 경계 $R_{t+1} \leq F(R_t) + \text{오차 항}$을 도입하며, $F(R_t)$는 주요 감쇠 행동을 기록한다.
• 적절히 선택된 $D$를 사용하여 귀납을 통해 $R_t \leq D t^{-\beta}$를 증명함으로써 수렴을 확립한다.

실험 결과

연구 질문

• RQ1 일반적인 $\alpha$-활성화 손실 함수를 갖는 정규화되지 않은 온라인 학습 알고리즘에 대해 명시적인 수렴 속도를 도출할 수 있는가?
• RQ2 정규화되지 않은 온라인 학습에서 마지막 반복의 수렴을 보장하는 단계 크기의 일반 조건은 무엇인가?
• RQ3 일반적인 손실 함수를 갖는 정규화되지 않은 쌍별 학습 알고리즘의 수렴성을 어떻게 확립할 수 있는가?
• RQ4 기존의 정규화 또는 최소 제곱 손실 설정의 결과들과 비교해 수렴 속도는 어떻게 되는가?
• RQ5 일반적인 손실 함수에 대해 최적 함수가 RKHS에 존재한다는 가정을 제거할 수 있는가?

주요 결과

• 논문은 다항형 감쇠 단계 크기 하에서 일반적인 $\alpha$-활성화 손실 함수를 갖는 정규화되지 않은 온라인 학습에 대해 수렴 속도 $\mathcal{O}(T^{-1/3})$를 확립한다.
• 마지막 반복의 수렴을 보장하는 단계 크기의 일반 조건이 도출되었으며, 이는 $\mathcal{O}(t^{-\theta})$ 감쇠의 특수 케이스를 초월한다.
• 이 논문은 처음으로 일반적인 손실 함수를 갖는 정규화되지 않은 쌍별 학습 알고리즘의 수렴성과 명시적 수렴 속도를 증명한다.
• 증명 기법은 비리프시츠 손실 함수에 특히 더 단순하고 강력한 것으로 나타났다.
• 분석은 일반적인 프레임워크를 통해 $\alpha$-활성화 손실 함수를 포함한 최소 제곱, 로지스틱, $q$-노름 손실 함수 등에 적용 가능하다.
• 분석은 가우시안 평균의 정밀한 부등식과 귀납 기반 추론을 통해 반복 과정에서의 오차 전파를 통제하는 데 의존한다.