[論文レビュー] Excess Risk Bounds for Exponentially Concave Losses

Mehrdad Mahdavi, Rong Jin|arXiv (Cornell University)|Jan 18, 2014

Advanced Bandit Algorithms Research参考文献 23被引用数 4

ひとこと要約

本稿は、バッチおよびオンライン設定の両方において、指数的凹関数としての損失関数を用いた学習に対して、高確率的過剰リスクバウンド $O(d\log n/n)$ を確立する。これは、バッチ学習では局所的ラダマッハ複雑度を、オンライン学習ではマルティングル・ベルシュタイン不等式とピーリング技術を用いた修正されたオンラインニュートン法を用いることで達成される。損失関数に対しては弱い仮定が課される。

ABSTRACT

The overarching goal of this paper is to derive excess risk bounds for learning from exp-concave loss functions in passive and sequential learning settings. Exp-concave loss functions encompass several fundamental problems in machine learning such as squared loss in linear regression, logistic loss in classification, and negative logarithm loss in portfolio management. In batch setting, we obtain sharp bounds on the performance of empirical risk minimization performed in a linear hypothesis space and with respect to the exp-concave loss functions. We also extend the results to the online setting where the learner receives the training examples in a sequential manner. We propose an online learning algorithm that is a properly modified version of online Newton method to obtain sharp risk bounds. Under an additional mild assumption on the loss function, we show that in both settings we are able to achieve an excess risk bound of $O(d\log n/n)$ that holds with a high probability.

研究の動機と目的

• 指数的凹関数としての損失関数から得られる学習のバッチおよび逐次的設定における鋭い過剰リスクバウンドを導出すること。
• 強い凸性を超えた、より広いクラスの指数的凹関数損失関数へと、高速レート一般化バウンドを拡張すること。
• オンライン学習において、既存の期待値ベースのバウンドを超えて、高確率的過剰リスクバウンドを達成すること。
• 線形仮説空間における経験的リスク最小化の性能を、指数的凹関数損失関数のもとで分析すること。
• 今後の研究において、スパarsityを用いた手法により次元 $d$ への依存を減少させることの可能性を検討すること。

提案手法

• 有界な線形仮説空間 $\mathscr{W}$ において、$\|\mathbf{w}\| \leq R$ を満たすものとして、バッチ設定における経験的リスク最小化を用いる。
• 指数的凹関数に特化した局所的ラダマッハ複雑度解析を適用し、バッチケースにおける鋭い収束レートを導出する。
• レジュラー化を適応的に制御し、ヘッセ行列に基づく更新を行う修正されたオンラインニュートン法を提案し、リグレットと過剰リスクを制御する。
• マルティングルのベルシュタイン不等式とピーリングプロセスを用いて、オンライン更新の確率的性質を扱い、誤差の蓄積を制御する。
• ヘッセ行列の近似誤差、勾配ノイズ、曲率のずれに関連する項を含む、過剰リスクの新規な分解を導入する。
• 行列のトレース不等式と行列式の上限を組み合わせたデュアル解析フレームワークを用い、オンライン更新におけるヘッセ行列の逆行列の成長を制御する。

実験結果

リサーチクエスチョン

• RQ1 バッチ学習設定において、指数的凹関数損失関数に対して、高確率的に $O(d\log n/n)$ の過剰リスクバウンドを達成できるか？
• RQ2 オンラインニュートン法を修正することで、期待値ベースのバウンドを超えて、高確率的過剰リスクバウンド $O(d\log n/n)$ を達成できるか？
• RQ3 両設定においてこのような高速レートを達成するために、損失関数に追加でどのような仮定が必要か？
• RQ4 過剰リスクバウンドにおける $\log n$ 要因は避けがたいものか、洗練された解析によって取り除けるか？
• RQ5 スパース回復の手法を用いて、スパース解において $d$ への依存を $s\log d$ にまで低減できるか？

主な発見

• 本稿は、指数的凹関数損失関数のもとで、バッチ設定における経験的リスク最小化に対して、高確率的過剰リスクバウンド $O(d\log n/n)$ を確立する。
• オンライン設定では、修正されたオンラインニュートン法が、高確率的に同じ $O(d\log n/n)$ の過剰リスクバウンドを達成する。
• 解析は、ピーリングプロセスとマルティングルのベルシュタイン不等式を用いて、確率的勾配の逸脱を制御する。
• 指数的凹性とリプシッツ連続性に加え、損失関数に対して弱い追加仮定が課されるが、その下でバウンドは成立する。
• 得られたバウンドは、一般の凸でリプシッツ連続な損失関数に対して標準的な $O(1/\sqrt{n})$ レートよりも著しく高速である。
• 本稿では $d\log n/n$ がタイトなバウンドである可能性を特定し、$\log n$ を除去するか、スパース解において $d$ を $s\log d$ にまで低減できるかという未解決の問題を提示する。