[論文レビュー] On-line regression competitive with reproducing kernel Hilbert spaces

Vladimir Vovk|ArXiv.org|Nov 15, 2005

Advanced Bandit Algorithms Research被引用数 11

ひとこと要約

本稿では、再帰的核ヒルバート空間（RKHS）内の任意の予測規則に対して、無限次元のRKHSであっても、ベンチマーク関数にノルムバウンドを課さない状況でも、レグレットがO(√N)で抑えられるオンライン回帰アルゴリズムを提示する。この手法は防御的予測とアグリゲーティング・アルゴリズムを用い、累積二乗損失がベンチマーククラス内の任意の固定規則よりもO(√N)以内にとどまるように保証する。最適な先頭定数を達成しており、非確率的かつ普遍的な一貫性の保証が得られる。

ABSTRACT

We consider the problem of on-line prediction of real-valued labels, assumed bounded in absolute value by a known constant, of new objects from known labeled objects. The prediction algorithm's performance is measured by the squared deviation of the predictions from the actual labels. No stochastic assumptions are made about the way the labels and objects are generated. Instead, we are given a benchmark class of prediction rules some of which are hoped to produce good predictions. We show that for a wide range of infinite-dimensional benchmark classes one can construct a prediction algorithm whose cumulative loss over the first N examples does not exceed the cumulative loss of any prediction rule in the class plus O(sqrt(N)); the main differences from the known results are that we do not impose any upper bound on the norm of the considered prediction rules and that we achieve an optimal leading term in the excess loss of our algorithm. If the benchmark class is "universal" (dense in the class of continuous functions on each compact set), this provides an on-line non-stochastic analogue of universally consistent prediction in non-parametric statistics. We use two proof techniques: one is based on the Aggregating Algorithm and the other on the recently developed method of defensive forecasting.

研究の動機と目的

• 無限次元のRKHS内の任意の予測規則に対して、ベンチマーク関数にノルムバウンドを課さずに、競争的な性能を示すオンライン回帰アルゴリズムの開発。
• 非パラメトリック回帰におけるストーンの漸近的結果をオンライン学習に拡張し、非確率的かつ有限標本の文脈における普遍的一貫性の有限サンプルアナログを確立すること。
• O(√N)レグレット項における先頭定数を最適化し、先行研究が示した非最適な定数や制限的な仮定を必要としないこと。
• 防御的予測とアグリゲーティング・アルゴリズムが、特に二乗損失を伴うオンライン回帰において、どれほど多様な応用が可能かを示すこと。
• 核に基づく予測規則を用いて、提示されたレグレットバウンドを達成する明示的かつ実装可能な予測戦略の提供。

提案手法

• アルゴリズムは、ラベル予測とオブジェクト特徴を統合したマージドカーネル $ \mu\mu' / Y^2 + \langle \mathbf{k}_x, \mathbf{k}_{x'} \rangle_{\mathcal{F}} $ を用い、予測とカーネル構造の両方を同時に最適化可能にする。
• 各ラウンドで、予測 $ \mu_n $ は方程式 $ S_n(\mu) = 0 $ の根として計算され、ここで $ S_n(\mu) $ は過去のデータとカーネルから導かれる二次関数であり、アグリゲーティング・アルゴリズムフレームワーク下での期待損失を最小化することを保証する。
• 防御的予測は、現実（Reality）が予測者の規則がベンチマークに近いかぎり、損失が増加しないように戦略を構築することで適用され、レグレットバウンドが決定論的に成立することを保証する。
• この手法はRKHSの再帰的性質を活用して、予測規則の損失とノルムを表現し、関数解析を用いて過剰損失をきめ細かく制御する。
• 有限次元近似と計算の容易さを保証するため、カーネル $ \mathbf{k}(x,x') = c^2 \max(1 - |x - x'|, 0) $（三角カーネルに対応）を明示的に用いる。
• 二つの証明技法が用いられる：アグリゲーティング・アルゴリズムと防御的予測。後者はより多様性に富み、より鋭いバウンドをもたらすことが示された。

実験結果

リサーチクエスチョン

• RQ1 無限次元のRKHS内の任意の規則に対して、ベンチマーク関数にノルム制約を課さずに、O(√N)のレグレットで抑えられるオンライン回帰アルゴリズムを構築することは可能か？
• RQ2 非確率的かつ有限標本の文脈において、ストーンの統計的回帰における漸近的結果に類似した普遍的一貫性を持つオンライン予測アルゴリズムを定義し構築することは可能か？
• RQ3 O(√N)レグレット項における先頭定数を最適化し、先行研究で見られた非最適な定数を回避することは可能か？
• RQ4 防御的予測は、二乗損失を伴うオンライン回帰にどのように適応可能か？また、従来の集約手法に比べてどのような利点を提供するか？
• RQ5 所定のレグレットバウンドを達成する明示的な予測戦略の形は何か？そして、その実装はどのように効率的に行えるか？

主な発見

• 提案されたアルゴリズムは、無限次元のRKHSであっても、ベンチマーク関数にノルムバウンドを課さない状況でも、任意の固定規則に対するレグレットバウンドが $ O(\sqrt{N}) $ で抑えられ、最適な先頭定数を達成する。
• コン pact 集合上の連続関数に密な普遍的ベンチマーククラスに対して、非確率的かつオンライン設定下で普遍的一貫性を達成する。これは、スティーブンの漸近的結果を一般化する。
• レグレットバウンドは $ \frac{3}{2}Y^2 \ln N + 2Ycd\sqrt{N+2} + \frac{(cd)^2}{4} + O(Y^2) $ であり、定数の違いを除いて理論的下界と一致する。ここで $ c $ と $ d $ はカーネルとベンチマーク規則のノルムに関連する。
• 防御的予測法は、特に二乗損失の取り扱いや最適定数の達成において、アグリゲーティング・アルゴリズムよりもきめ細かいレグレット解析を実現する。
• マージドカーネルを用いた明示的な予測戦略が導出され、アルゴリズムが過去の例の数にのみ依存する計算複雑性で実装可能である。
• 証明により、RKHSノルムが $ d $ の任意のベンチマーク規則 $ D $ に対する過剰損失は、$ \alpha = cd / (Y\sqrt{N}) $ として、$ (2 - \alpha)Ycd\sqrt{N} $ 以下であることが示され、最適な定数を伴う $ O(\sqrt{N}) $ の増加が確認された。