[論文レビュー] Unregularized Online Learning Algorithms with General Loss Functions

Yiming Ying, Ding‐Xuan Zhou|arXiv (Cornell University)|Mar 2, 2015

Sparse and Compressive Sensing Techniques参考文献 40被引用数 3

ひとこと要約

この論文は、一般の $\alpha$-活性化損失関数を用いた再生核ヒルベルト空間（RKHS）における正則化なしオンライン学習アルゴリズムの収束速度を確立し、新しい帰納的証明技法を用いる。多項式的減衰するステップサイズのもとで明示的な収束速度を提示し、分類およびペairワイズ学習タスクの最後の反復の収束を証明する。これは、正則化やリプシッツ連続勾配の設定を超えた先行研究の拡張である。

ABSTRACT

In this paper, we consider unregularized online learning algorithms in a Reproducing Kernel Hilbert Spaces (RKHS). Firstly, we derive explicit convergence rates of the unregularized online learning algorithms for classification associated with a general gamma-activating loss (see Definition 1 in the paper). Our results extend and refine the results in Ying and Pontil (2008) for the least-square loss and the recent result in Bach and Moulines (2011) for the loss function with a Lipschitz-continuous gradient. Moreover, we establish a very general condition on the step sizes which guarantees the convergence of the last iterate of such algorithms. Secondly, we establish, for the first time, the convergence of the unregularized pairwise learning algorithm with a general loss function and derive explicit rates under the assumption of polynomially decaying step sizes. Concrete examples are used to illustrate our main results. The main techniques are tools from convex analysis, refined inequalities of Gaussian averages, and an induction approach.

研究の動機と目的

• 一般の $\alpha$-活性化損失関数を用いたRKHSにおける正則化なしオンライン学習アルゴリズムの明示的収束速度を確立すること。
• 最後の反復の収束を保証するステップサイズの一般条件を導出すること。これは固定または特別な減衰形態にとどまらない拡張である。
• 理論的結果をペairワイズ学習に拡張し、一般損失関数を用いた正則化なしアルゴリズムの収束を証明し、収束速度を導出すること。
• 正則化を回避し、非リプシッツ損失関数を扱うために洗練された凸解析の道具を用いることで、先行研究の制限を克服すること。

提案手法

• 正則化に依存しない最後の反復の収束を分析するための新しい帰納的アプローチを用いる。
• 仮説空間の複雑さを制御するために、ガウス平均およびラデマッハ平均の洗練された不等式を適用する。
• 凸解析の道具を用いて、凸性、微分可能性、および導関数のホルダー連続性を特徴とする一般の $\alpha$-活性化損失関数を扱う。
• 誤差 $R_t$、ステップサイズ $γ_t$、およびカーネル関数のノルムを含む再帰的不等式を導出し、収束速度を評価する。
• 誤差の主な減衰行動を捉える主要な再帰的バインド $R_{t+1} \leq F(R_t) + \text{誤差項}$ を導入する。
• 適切に選ばれた $D$ を用いて、再帰的不等式を満たすように帰納法により $R_t \leq D t^{-\beta}$ を示すことによって収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 一般の $\alpha$-活性化損失関数を用いた正則化なしオンライン学習アルゴリズムに対して、明示的な収束速度を導出できるか？
• RQ2 正則化なしオンライン学習における最後の反復の収束を保証するステップサイズの一般条件は何か？
• RQ3 一般損失関数を用いた正則化なしペアワイズ学習アルゴリズムの収束を確立できるか？
• RQ4 正則化ありまたは最小二乗損失設定の既存結果と比較して、収束速度はどのように異なるか？
• RQ5 一般損失関数に対して、最適関数がRKHS内に存在すると仮定する必要はなくできるか？

主な発見

• 多項式的減衰するステップサイズのもとで、一般の $\alpha$-活性化損失関数を用いた正則化なしオンライン学習に対して、収束速度 $\mathcal{O}(T^{-1/3})$ が確立された。
• 最後の反復の収束を保証する一般のステップサイズ条件が導出され、$\mathcal{O}(t^{-\theta})$ 減衰の特別な場合を超えて拡張された。
• 本論文は、一般損失関数を用いた正則化なしペアワイズ学習アルゴリズムの収束を初めて証明し、明示的な収束速度を導出した。
• 特に非リプシッツ損失関数に対して、証明技法が従来の手法よりも単純かつ強力であることが示された。
• 最小二乗損失、ロジスティック損失、$q$-ノルム損失を含む一般の $\alpha$-活性化損失関数を扱える一般的なフレームワークのもとで結果が得られた。
• 誤差伝播の制御には、ガウス平均の洗練された不等式と帰納的議論に依存している。