[論文レビュー] Online Pairwise Learning Algorithms with Kernels

Yiming Ying, Ding‐Xuan Zhou|arXiv (Cornell University)|Feb 25, 2015

Advanced Bandit Algorithms Research参考文献 33被引用数 6

ひとこと要約

本稿は、核法を用いたオンラインペアワイズ学習アルゴリズムである OPERA を提案する。このアルゴリズムは、制約のない再生核ヒルベルト空間（RKHS）で動作し、最小二乗損失関数を用いる。収束の確実性を確立し、強い凸性や有界な反復値を仮定しない条件下で、多項式的減衰するステップサイズにおける明示的な収束速度を導出する。これは、一般のカーネルを用いたオンラインペアワイズ学習のための画期的な理論枠組みを提供する。

ABSTRACT

Pairwise learning usually refers to a learning task which involves a loss function depending on pairs of examples, among which most notable ones include ranking, metric learning and AUC maximization. In this paper, we study an online algorithm for pairwise learning with a least-square loss function in an unconstrained setting of a reproducing kernel Hilbert space (RKHS), which we refer to as the Online Pairwise lEaRning Algorithm (OPERA). In contrast to existing works \cite{Kar,Wang} which require that the iterates are restricted to a bounded domain or the loss function is strongly-convex, OPERA is associated with a non-strongly convex objective function and learns the target function in an unconstrained RKHS. Specifically, we establish a general theorem which guarantees the almost surely convergence for the last iterate of OPERA without any assumptions on the underlying distribution. Explicit convergence rates are derived under the condition of polynomially decaying step sizes. We also establish an interesting property for a family of widely-used kernels in the setting of pairwise learning and illustrate the above convergence results using such kernels. Our methodology mainly depends on the characterization of RKHSs using its associated integral operators and probability inequalities for random variables with values in a Hilbert space.

研究の動機と目的

• 順序付け、メトリック学習、AUC最大化などのペアワイズ学習タスクのためのオンライン学習アルゴリズムの開発を目的とする。
• 強い凸性や有界な反復値を仮定しない制約のない RKHS の設定における収束の分析を目的とする。
• アルゴリズムの最終反復のほぼ確実な収束を確立し、明示的な収束速度を導出することを目的とする。
• 広く用いられるカーネルのペアワイズ学習における振る舞いを特徴づけ、理論的結果を支援することを目的とする。
• 積分作用素とヒルベルト空間値の確率的変数を用いて、非強い凸性・制約のないオンライン学習理論を、ペアワイズ学習問題へと拡張することを目的とする。

提案手法

• 製品空間 $\mathcal{X}^2$ 上の制約のない RKHS において、最小二乗損失関数を用いたオンラインペアワイズ lEaRning アルゴリズム（OPERA）を提案する。
• Mercer カーネル $K$ を持つ $\mathcal{X}^2 \times \mathcal{X}^2$ 上のカーネルに基づく仮説空間 $\mathcal{H}_K$ を用いる。
• 収束を保証するために、多項式的減衰のためのステップサイズ列 $\gamma_t = \kappa^{-2} t^{-(2\beta+1)/(2\beta+2)}$ を採用する。
• 関連する積分作用素を用いて RKHS を特徴づけ、ヒルベルト空間値の確率的変数に対する不等式を適用して誤差境界を導出する。
• RKHSノルムをヒルベルト＝シュミット作用素ノルムに関連づけ、ターゲット関数の正則性に基づいて残差誤差を分析することで収束を確立する。
• 分解 $f(x^1,x^2) = g(x^1) - g(x^2)$ を用いて、ペアワイズカーネルと $\mathcal{X}$ 上の標準的 RKHS $\mathcal{H}_G$ の間の関係を確立し、$\mathcal{H}_G$ を通じた誤差解析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 制約のない RKHS において、強い凸性や有界な反復値を仮定しないオンラインペアワイズ学習アルゴリズムは、ほぼ確実に収束するか？
• RQ2 多項式的減衰するステップサイズの下で、OPERA の収束速度はどの程度達成可能か？
• RQ3 広く用いられるカーネルはペアワイズ学習の文脈でどのように振る舞い、収束を支える構造的性質は何か？
• RQ4 誤差解析を、非強い凸な目的関数を有するオンラインペアワイズ学習に拡張可能か？
• RQ5 ターゲット関数の正則性とオンラインアルゴリズムの収束速度の間にはどのような関係があるか？

主な発見

• OPERA の最終反復は、データ分布に関するいかなる仮定もなしに、ターゲット関数にほぼ確実に収束する。
• 多項式的減衰するステップサイズの下で、$\mathcal{O}(T^{-\beta/(2\beta+2)})$ の明示的な収束速度が導出され、ここで $\beta$ はターゲット関数の正則性を定量化する。
• 一変数の場合の収束速度 $\mathcal{O}(T^{-\beta/(2\beta+1)})$ と比較すると、収束速度は最適でないため、改善の余地がある。
• 特別なペアワイズカーネル $K((x^1,x^2), (\hat{x}^1,\hat{x}^2)) = \langle G_{x^1} - G_{x^2}, G_{\hat{x}^1} - G_{\hat{x}^2} \rangle_G$ の下では、$f \in \mathcal{H}_K$ と $g \in \mathcal{H}_G$ の間の全単射対応が RKHS 構造によって保証され、$f(x^1,x^2) = g(x^1) - g(x^2)$ により可能になる。
• もし $1_{\mathcal{X}} \notin \mathcal{H}_G$ であれば、カーネル $K$ は正定値の RKHS を誘導し、学習プロセスにおける一意性と安定性を保証する。