[論文レビュー] Online Learning of Noisy Data with Kernels

Nicolò Cesa‐Bianchi, Shai Shalev‐Shwartz+1 more|arXiv (Cornell University)|May 13, 2010

Machine Learning and Algorithms参考文献 10被引用数 5

ひとこと要約

本稿では、各インスタンスが未知かつ時変な分布をもつゼロ平均・有界分散ノイズで汚染される状況下での、カーネルベースの予測器に対する新しいオンライン学習アルゴリズムを提案する。ランダム化され、不偏な推定器を用い、各インスタンスの複数のノイズ付きコピーを照会することで、任意のドット積カーネルまたはガウスカーネル空間において、解析的凸損失関数のもとでサブライトレグレットを達成する。一方、各インスタンスに対して1つのノイズ付きコピーしか利用できない場合には、学習が根本的になされないことを証明する。

ABSTRACT

We study online learning when individual instances are corrupted by adversarially chosen random noise. We assume the noise distribution is unknown, and may change over time with no restriction other than having zero mean and bounded variance. Our technique relies on a family of unbiased estimators for non-linear functions, which may be of independent interest. We show that a variant of online gradient descent can learn functions in any dot-product (e.g., polynomial) or Gaussian kernel space with any analytic convex loss function. Our variant uses randomized estimates that need to query a random number of noisy copies of each instance, where with high probability this number is upper bounded by a constant. Allowing such multiple queries cannot be avoided: Indeed, we show that online learning is in general impossible when only one noisy copy of each instance can be accessed.

研究の動機と目的

• 未知の分布で、有界分散をもつ敵対的i.i.d.ノイズが存在する状況下でのオンライン学習を扱う。
• 訓練インスタンスがノイズで汚染される状況における、再生核ヒルベルト空間（RKHS）における学習の一般枠組みを構築すること。
• 単一のノイズ付きインスタンスコピーしか利用できない場合でさえも、オンライン学習が根本的に不可能であることを示すこと。
• ランダム化され、不偏な推定器を用いるオンライン勾配降下法の変種を設計し、ノイズのある観測値に対しても低レグレットを達成すること。
• ノイズに関する最小限の仮定のもとで、レグレットと照会複雑度の理論的境界を確立すること。

提案手法

• 本手法は、各インスタンスの独立に摂動された複数のコピーをランダムに照会し、カーネル値および損失勾配の不偏推定値を計算するランダム化推定器を用いる。
• 非線形関数のための不偏推定器の族を採用し、ノイズ分布が未知かつ時変であっても一貫した推定が可能になる。
• これらのランダム化推定値を用いて、修正されたオンライン勾配降下法を適用し、任意の解析的凸損失関数のもとで収束を保証する。
• 1インスタンスあたりの照会回数は、期待値および高確率で定数で有界であり、大規模なサンプル平均化の必要がない。
• 本手法は、任意のドット積カーネル（例：多項式）やガウスカーネルへも拡張可能であり、RKHSの構造とカーネルトリックに依存する。
• 主な技術的要素として、照会複雑度を制御しつつ、低分散推定値を維持するためのランダム化ストップルールの使用がある。

実験結果

リサーチクエスチョン

• RQ1 訓練インスタンスが未知かつ時変な分布をもつ敵対的ノイズで汚染される状況下でも、オンライン学習が可能か？
• RQ2 インスタンスがノイズで汚染されたコピーしか入手できない場合、カーネル空間（例：RKHS）で学習が可能か？
• RQ3 オンライン設定において、成功した学習を達成するために必要な1インスタンスあたりのノイズ付きコピーの最小数は何か？
• RQ4 一般のノイズ仮定のもとで、カーネル値および損失勾配のための不偏推定器を構築可能か？
• RQ5 各インスタンスに対して1つのノイズ付きコピーしかアクセスできない場合の、オンライン学習の根本的限界は何か？

主な発見

• ランダム化され、不偏な推定器を用いるオンライン勾配降下法の変種は、任意のドット積カーネルまたはガウスカーネル空間において、任意の解析的凸損失関数のもとでサブライトレグレットを達成する。
• 1インスタンスあたりのノイズ付き照会回数は、期待値および高確率で定数で有界であり、大規模なサンプル平均化の必要がない。
• 単一のノイズ付きインスタンスコピーしか利用できない場合、オンライン設定において学習が根本的に不可能であることが証明されている。
• レグレット境界はノイズ分散およびカーネル構造に依存し、特定の分布的条件下では非消滅的であることが示された。
• ゼロ平均かつ有界分散の敵対的ノイズに対しても、ノイズ分布が時間とともに変化しても本手法はロバストである。
• 理論的枠組みは、多項式およびガウスカーネルを超える他のカーネルタイプに対しても拡張可能である。