[論文レビュー] Online Learning with Multiple Operator-valued Kernels

Julien Audiffren, Hachem Kadri|arXiv (Cornell University)|Nov 1, 2013

Advanced Bandit Algorithms Research参考文献 18被引用数 3

ひとこと要約

本稿では、演算子値カーネルを用いたベクトル値関数のオンライン学習のためのONORMAおよびMONORMAという2つのアルゴリズムを提案する。これは、構造的出力を扱えるようにNORMAアルゴリズムを拡張したものである。ONORMAは回帰および分類の両方に対して理論的な累積誤差バウンドを提供するが、MONORMAは未知の出力構造に適応するためのカーネルの動的組み合わせを学習し、計算コストを著しく削減しながらバッチ法に近い性能を達成する。

ABSTRACT

We consider the problem of learning a vector-valued function f in an online learning setting. The function f is assumed to lie in a reproducing Hilbert space of operator-valued kernels. We describe two online algorithms for learning f while taking into account the output structure. A first contribution is an algorithm, ONORMA, that extends the standard kernel-based online learning algorithm NORMA from scalar-valued to operator-valued setting. We report a cumulative error bound that holds both for classification and regression. We then define a second algorithm, MONORMA, which addresses the limitation of pre-defining the output structure in ONORMA by learning sequentially a linear combination of operator-valued kernels. Our experiments show that the proposed algorithms achieve good performance results with low computational cost.

研究の動機と目的

• 再生ヒルバート空間における演算子値カーネルを用いたベクトル値関数の学習のための効率的なオンラインアルゴリズムの不足に対処すること。
• NORMAアルゴリズムを演算子値カーネル設定に拡張し、構造的出力を伴うオンライン学習を可能にすること。
• 従来の手法が事前に出力構造を定義するという制限を克服し、順次的に複数の演算子値カーネルの線形結合を学習すること。
• 演算子値カーネルを用いたオンライン学習における分類および回帰設定の両方に対して理論的誤差バウンドを提供すること。
• 提案されたアルゴリズムの性能と効率を、合成データおよび実世界のマルチタスクデータセット上で実験的に検証すること。

提案手法

• ONORMAはNORMAアルゴリズムを演算子値カーネルフレームワークに拡張し、カーネルに由来するヒルバート空間構造を用いて関数推定を段階的に更新する。
• アルゴリズムは、$ td \times td $ のサイズのカーネル行列を用いた正則化項を用いる。ここで $ t $ は例の数、$ d $ は出力次元である。
• MONORMAは、オンライン更新中にカーネルの重みを適応的に変更することで、複数の演算子値カーネルを組み合わせる順次学習メカニズムを導入する。
• 学習率 $ \eta_t $ と正則化パラメータ $ \lambda $ を用い、安定性を保証するため $ \eta_t \lambda < 1 $ を満たす。
• 2種類のカーネルを用いる：分離可能なガウスカーネル $ K_\mu(x,x') = \exp(-\|x-x'\|_2^2/\mu) \mathbf{J} $ と非分離カーネル $ K_\mu(x,x') = \mu\langle x,x'\rangle \mathbf{1} + (1-\mu)\langle x,x'\rangle^2 \mathbf{I} $。
• アルゴリズムは、平均二乗誤差（MSE）を用いて評価され、合成および実世界のデータセット（$ d $, $ t $, カーネルパラメータを変化）でバッチ法と比較される。

実験結果

リサーチクエスチョン

• RQ1 NORMAアルゴリズムは、ベクトル値関数のオンライン学習のための演算子値カーネル設定に成功裏に拡張可能か？
• RQ2 提案されたONORMAアルゴリズムは、分類および回帰の両タスクにおいて理論的累積誤差バウンドを達成するか？
• RQ3 MONORMAは、出力構造の事前知識なしに最適な演算子値カーネルの組み合わせを自動で学習可能か？
• RQ4 精度および計算効率の観点から、MONORMAはONORMAおよびバッチ法と比較してどの程度の性能を示すか？
• RQ5 カーネルパラメータの選定が、オンラインアルゴリズムの一般化性能に与える影響は何か？

主な発見

• ONORMAは分類および回帰の両方に対して、オンライン設定における理論的保証を提供する累積誤差バウンドを達成する。
• MONORMAは、未知の出力構造に適応するカーネルの動的組み合わせを学習することでONORMAを上回り、予測精度を向上させる。
• ONORMAおよびMONORMAは、バッチ法に近いMSE水準に達しており、オンライン学習にもかかわらず優れた一般化性能を示す。
• ONORMAの実行時間はバッチ法よりも著しく短く、合成データセットでは12秒対162秒であり、効率性が裏付けられる。
• MONORMAは、CPUデータセットでバッチ法（217秒対2514秒）よりも計算コストを削減しながら、高い精度を維持する。
• すべてのデータセットにおいて、MSEがMONORMAがONORMAを常に下回り、特に真の出力構造が複雑または未知の場合に顕著である。