[論文レビュー] Online Nonparametric Regression with General Loss Functions

Alexander Rakhlin, Karthik Sridharan|arXiv (Cornell University)|Jan 26, 2015

Advanced Bandit Algorithms Research参考文献 33被引用数 8

ひとこと要約

本稿は、一般の凸リプシッツ損失関数を用いたオンライン非パラメトリック回帰におけるミニマックスレジレットレートを確立し、レジレットが損失関数の曲率と関数クラスの逐次的複雑さに依存することを示している。これは、閾値未満では曲率が影響を及ぼすが、それ以上では影響がなくなる。順次的およびi.i.d.の複雑さが一致する場合、最適な統計的学習レートと一致するレジレットレートが得られ、有限のエキスパートや線形回帰の文脈で、これらのレートを達成する汎用的かつ計算効率の良い予測器が提示されている。

ABSTRACT

This paper establishes minimax rates for online regression with arbitrary classes of functions and general losses. We show that below a certain threshold for the complexity of the function class, the minimax rates depend on both the curvature of the loss function and the sequential complexities of the class. Above this threshold, the curvature of the loss does not affect the rates. Furthermore, for the case of square loss, our results point to the interesting phenomenon: whenever sequential and i.i.d. empirical entropies match, the rates for statistical and online learning are the same. In addition to the study of minimax regret, we derive a generic forecaster that enjoys the established optimal rates. We also provide a recipe for designing online prediction algorithms that can be computationally efficient for certain problems. We illustrate the techniques by deriving existing and new forecasters for the case of finite experts and for online linear regression.

研究の動機と目的

• 任意の関数クラスおよび一般の凸リプシッツ損失関数の下で、オンライン非パラメトリック回帰におけるミニマックスレジレットレートを確立すること。
• 損失関数の曲率と逐次的複雑さの相互作用が、レジレット成長率に与える影響を特定すること。
• 順次的およびi.i.d.の経験的エントロピーが一致する場合、オンライン学習と統計的学習のレートが一致することを示すこと。
• 最適なレジレットレートを達成する汎用的かつ計算効率の良い予測器を設計すること。
• 有限のエキスパートや線形回帰のような特定の問題に対して、効率的なオンライン予測アルゴリズムを構築するための手順を提供すること。

提案手法

• 関数クラス F の複雑さの尺度として、スケール β における逐次的エントロピーを用い、p > 0 のとき O(β⁻ᵖ) の挙動を示す。
• 逐次的ラダマッハ複雑度と逐次的ファットシャッタリング次元を用いて、レジレットの上界と下界を導出する。
• 損失関数の凸共役関数と一般化二項展開を用いた、新たな双対性に基づく解析により、部分勾配の成長を制限する。
• G（損失の範囲）、K（曲率）、n（時間の長さ）を含む項のトレードオフを、γ および λ パrameter における最適化により調整する。
• Bregmanダイバージェンスに類似した更新法を用いた、正則化された経験的リスクを最小化する汎用的予測器を導入する。
• 一般化二項定理を用いて損失関数の2次展開を制限し、q ∈ (1,2) の q-損失に対して曲率解析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 一般の凸損失関数の曲率は、オンライン非パラメトリック回帰におけるミニマックスレジレットにどのように影響するか？
• RQ2 関数クラス F の逐次的複雑さが、レジレットに与える正確な依存関係は何か？
• RQ3 オンライン学習とi.i.d.統計的学習が同じレジレットレートを達成するのはどのような条件下か？
• RQ4 1つの汎用的予測器が、多様な関数クラスや損失関数に対して最適なレートを達成できるか？
• RQ5 曲率と複雑さをどのようにバランスさせれば、計算効率の良いオンラインアルゴリズムを設計できるか？

主な発見

• 絶対損失の場合、p ∈ (0,2) のときレジレットは n¹ᐟ² に比例し、p > 2 のとき n¹⁻¹ᐟᵖ に比例し、先行研究の結果と一致する。
• 二乗損失の場合、p ∈ (0,2) のときレジレットは n¹⁻²ᐟ⁽²⁺ᵖ⁾ に比例し、p > 2 のとき n¹⁻¹ᐟᵖ に比例する。p ∈ (0,2) の領域では曲率が重要な役割を果たす。
• 順次的およびi.i.d.の経験的エントロピーが一致する場合、オンラインレジレットレートはi.i.d.データを用いた統計的学習理論における最適レートと正確に一致する。
• p > 2（豊富なクラス）の領域では、二乗損失および絶対損失の両方でレジレットレートは n¹⁻¹ᐟᵖ に一致し、この領域では損失の強い凸性がレートに影響しないことを示している。
• 提案された汎用的予測器は、確立された最適なレジレットレートを達成しており、逐次的ラダマッハ複雑度と曲率解析を用いて明示的な境界が導出されている。
• q ∈ (1,2) の q-損失に対して、損失はパラメータ q(q−1)/2 で強く凸であり、損失の2次展開の上界は 2q(q−1)x² に抑えられ、レジレットの厳密な制御が可能になる。