[論文レビュー] Nonparametric Online Regression while Learning the Metric

Ilja Kuzborskij, Nicolò Cesa‐Bianchi|arXiv (Cornell University)|May 22, 2017

Sparse and Compressive Sensing Techniques参考文献 13被引用数 3

ひとこと要約

本稿では、データからマハラノビス距離を同時に学習し、回帰関数の主要方向に沿った滑らかさに適応することで、レグレットを最小化するオンライン非パラメトリック回帰アルゴリズムを提案する。レグレットの境界は勾配外積行列の有効ランクに比例し、真の関数が特定の方向で滑らかである場合、標準的な境界を改善する。また、段階的推定手順を通じて、メトリックの有効次元数に自動的に適応する。

ABSTRACT

We study algorithms for online nonparametric regression that learn the directions along which the regression function is smoother. Our algorithm learns the Mahalanobis metric based on the gradient outer product matrix $\boldsymbol{G}$ of the regression function (automatically adapting to the effective rank of this matrix), while simultaneously bounding the regret ---on the same data sequence--- in terms of the spectrum of $\boldsymbol{G}$. As a preliminary step in our analysis, we extend a nonparametric online learning algorithm by Hazan and Megiddo enabling it to compete against functions whose Lipschitzness is measured with respect to an arbitrary Mahalanobis metric.

研究の動機と目的

• 回帰関数の主方向に沿った内在的滑らかさに適応するオンライン学習アルゴリズムの開発。
• 関数の滑らかさ構造に関する事前知識なしに、予測に使用する同じデータ系列からリアルタイムでマハラノビス距離を学習すること。
• 既存の非パラメトリックオンライン学習のレグレット境界を、任意のマハラノビス距離に拡張し、方向的リプシッツ連続性を捉えること。
• 勾配外積行列の有効ランクに比例するレグレット境界を提供し、関数が異方的に滑らかである場合、ユークリッドベースの境界を上回ること。
• 段階的アルゴリズムを設計し、オンライン学習中に勾配外積行列を推定しながら、低いレグレットを維持すること。

提案手法

• アルゴリズムは、任意のマハラノビス距離下での方向的リプシッツ連続性を持つ関数に対する性能を競う、ハザンとメギドの非パラメトリックオンライン学習フレームワークを一般化する。
• 勾配外積行列を、前回の段階からのデータを用いて段階的に逐次推定する段階的アプローチを採用する。
• 各段階において、入力空間を球に分割し、現在のメトリック推定値から導かれるカーネルを用いた正則化最小二乗法（RLS）予測ルールを維持する。
• メトリックは、過去のデータ上で計算された経験的勾配外積行列を用いて更新され、固有値分解により変動の主方向を同定する。
• 推定誤差とその予測精度への影響を考慮した高確率的解析により、レグレットを境界づける。
• メトリックの有効次元数（しきい値を徐々に小さくする基準を満たす固有値の数）に自動的に適応する。

実験結果

リサーチクエスチョン

• RQ1 回帰関数の内在的滑らかさを反映するマハラノビス距離を学習することで、オンライン非パラメトリック回帰を改善できるか？
• RQ2 勾配外積行列の固有値スペクトルを用いて、レグレット境界をどのように表現できるか？
• RQ3 同じデータ系列上で、勾配外積行列をオンラインで推定しつつ、低いレグレットを維持できるか？
• RQ4 メトリック推定誤差が最終的なレグレットに与える影響は何か？ また、高確率的にこれを制御する方法は？
• RQ5 アルゴリズムはメトリックの有効ランクに適応でき、関数が低次元部分空間で滑らかである場合に、より良い境界を達成できるか？

主な発見

• レグレット境界は $\left(\sqrt{\mathrm{det}_{\kappa}(\mathbf{M})} + \sqrt{\sum_{i=1}^{d}\frac{\|\nabla_{\mathbf{u}_i}f\|_{\infty}^2}{\lambda_i}}\right)T^{\rho_T/(1+\rho_T)}$ に比例する。ここで $\rho_T$ はメトリックの有効ランクであり、$\mathrm{det}_{\kappa}(\mathbf{M})$ は切断されたメトリックの行列式を表す。
• 真の関数が勾配外積行列の小さな固有値に対応する方向で滑らかである場合、標準的なユークリッドケースと比較して境界が著しく改善される。
• 高い確率で、レグレット境界は $\widetilde{\mathcal{O}}\left(\left(1 + \sum_{j=1}^{d}\frac{\left(\|\nabla_{\mathbf{u}_j}f_0\|_{\infty} + \|\nabla_{V_\Delta^\perp}f_0\|_{\infty}\right)^2}{\mu_j/\mu_1}\right)T^{\widetilde{\rho}_T/(1+\widetilde{\rho}_T)}\right)$ を達成する。
• アルゴリズムは、メトリックの有効次元数に自動的に適応し、$\rho_T$ が顕著な固有値の数を表し、$\mathrm{det}_{\kappa}(\mathbf{M})$ が高次元的かつ悪条件なメトリックをペナルティ付ける。
• i.i.d. データからメトリックを学ぶ場合、期待勾配外積行列はマハラノビス行列の自然かつ最適な選択である。
• メトリックが単位行列に設定された場合、標準的な $T^{d/(1+d)}$ のレグレット境界を回復するため、先行研究と整合性が確認される。