[論文レビュー] Random Feature-based Online Multi-kernel Learning in Environments with Unknown Dynamics

Yanning Shen, Tianyi Chen+1 more|arXiv (Cornell University)|Dec 28, 2017

Machine Learning and ELM参考文献 33被引用数 11

ひとこと要約

本稿では、未知の動的環境におけるスケーラブルで適応的な関数近似を可能にする、ランダム特徴量と直交性促進を活用したオンライン多カーネル学習アルゴリズムAdaRakerを提案する。理論的保証のもとでサブ線形な動的リグレットを達成し、データ駆動型のカーネル結合と動的追跡により、非定常な設定で静的ベンチマークを上回る性能を発揮する。

ABSTRACT

Kernel-based methods exhibit well-documented performance in various nonlinear learning tasks. Most of them rely on a preselected kernel, whose prudent choice presumes task-specific prior information. Especially when the latter is not available, multi-kernel learning has gained popularity thanks to its flexibility in choosing kernels from a prescribed kernel dictionary. Leveraging the random feature approximation and its recent orthogonality-promoting variant, the present contribution develops a scalable multi-kernel learning scheme (termed Raker) to obtain the sought nonlinear learning function `on the fly,' first for static environments. To further boost performance in dynamic environments, an adaptive multi-kernel learning scheme (termed AdaRaker) is developed. AdaRaker accounts not only for data-driven learning of kernel combination, but also for the unknown dynamics. Performance is analyzed in terms of both static and dynamic regrets. AdaRaker is uniquely capable of tracking nonlinear learning functions in environments with unknown dynamics, and with with analytic performance guarantees. Tests with synthetic and real datasets are carried out to showcase the effectiveness of the novel algorithms.

研究の動機と目的

• 時間とともに変化する関数と未知のダイナミクスを有する動的環境における非線形関数近似の課題に取り組む。
• 大規模オンライン学習における従来のカーネル法の計算および記憶容量のボトルネックを、ランダム特徴量近似を活用することで克服する。
• 最適なカーネルやダイナミクスに関する事前知識を必要とせず、辞書から得られるカーネルを適応的に組み合わせるスケーラブルなオンライン多カーネル学習フレームワークを構築する。
• 非定常的で敵対的または時間変動する環境におけるオンライン学習の静的および動的リグレットの観点から理論的性能保証を提供する。
• カーネル結合と未知の時間的変化の両方を考慮した解析的リグレットバウンドを備えたリアルタイム学習を実現する。

提案手法

• ランダム特徴量近似に直交性促進を組み合わせた、分散低減と一般化性能向上を目的としたスケーラブルなオンライン多カーネル学習アルゴリズムRakerを提案する。
• 再生核ヒルバート空間（RKHS）フレームワークにおける表現定理を用い、学習関数をランダム特徴量の線形結合として表現する。
• Rakerの適応的拡張として、変化するデータと未知のダイナミクスに応じてカーネル重みを動的に調整するAdaRakerを導入する。
• 時間区間を長さΔTの部分に分割することで、動的リグレットを静的リグレット（部分区間内）と環境変化に起因するばらつき（変動性）に分離してバウンドする。
• 補題2を用いて、各部分区間内での静的リグレットを√ΔTに比例する項でバウンドし、動的成分は時間経過に伴う損失関数の全変動量でバウンドする。
• ホルダーの不等式を適用し、ΔTを全変動量の関数として最適化することで、高確率でO(T^{2/3} V^{1/3})の動的リグレットバウンドを達成する。ここでVは損失関数の全変動量を表す。

実験結果

リサーチクエスチョン

• RQ1 未知で時間変動するダイナミクスを有する環境において、オンライン多カーネル学習をスケーラブルかつ適応可能にできるか？
• RQ2 ランダム特徴量近似と多カーネル学習を組み合わせることで、オンライン設定における計算コストおよびメモリコストを低く保てるか？
• RQ3 非定常環境におけるオンライン学習の理論的性能限界は何か？ また、データ駆動型カーネル選択によってその限界に到達可能か？
• RQ4 ダイナミクスに関する事前知識が欠如する状況下で、オンラインアルゴリズムの動的リグレットは時間区間と環境変動性にどのように依存するか？
• RQ5 ダイナミクスが未知であっても、静的ベンチマークと最良の時間変動関数の両方を考慮したリグレットバウンドを導出可能か？

主な発見

• 最適な部分区間長選択のもとで、AdaRakerは高確率でO(T^{2/3} V^{1/3})の動的リグレットバウンドを達成する。ここでVは損失関数の全変動量を表す。
• 各長さΔTの部分区間内において、AdaRakerの静的リグレットは(C₀ + C₁ ln T)√ΔTでバウンドされ、時間経過に伴いサブ線形に増加することが保証される。
• アルゴリズムの性能は、与えられたカーネル辞書が誘導するRKHS空間の和集合における最良の動的関数を追跡できることを理論的に保証する。
• 最適関数のスイッチング回数に応じてリグレットバウンドが有利にスケーリングされ、m回のスイッチングを持つ動的解に対してO(√(Tm))のバウンドが得られる。ここでmは関数変更の回数を表す。
• 合成および実データセットにおける実験的評価により、AdaRakerが非定常環境において静的および非適応的オンライン学習ベースラインを上回ることを確認した。
• 直交性促進を施したランダム特徴量の使用は、特に高次元設定において、標準的なランダム特徴量手法と比較して分散を顕著に低減し、一般化性能を向上させる。