[論文レビュー] New Analysis and Algorithm for Learning with Drifting Distributions

Mehryar Mohri, Andrés Muñoz Medina|arXiv (Cornell University)|May 19, 2012

Machine Learning and Algorithms参考文献 21被引用数 5

ひとこと要約

本稿では、バッチ設定における分布の変化（drifting distributions）を学習する際の、新しい差分に基づく解析とアルゴリズムを提案する。従来のL₁距離に代えて、仮説集合と損失関数に依存する、よりタイトな差分測度を導入している。Rademacher複雑度を用いて一般化境界を改善し、最適な凸結合を単純な二次計画問題（QP）として定式化することで、合成データを用いた予備実験で優れた性能を示している。

ABSTRACT

We present a new analysis of the problem of learning with drifting distributions in the batch setting using the notion of discrepancy. We prove learning bounds based on the Rademacher complexity of the hypothesis set and the discrepancy of distributions both for a drifting PAC scenario and a tracking scenario. Our bounds are always tighter and in some cases substantially improve upon previous ones based on the $L_1$ distance. We also present a generalization of the standard on-line to batch conversion to the drifting scenario in terms of the discrepancy and arbitrary convex combinations of hypotheses. We introduce a new algorithm exploiting these learning guarantees, which we show can be formulated as a simple QP. Finally, we report the results of preliminary experiments demonstrating the benefits of this algorithm.

研究の動機と目的

• バッチ学習における一般化境界の測定に用いられるL₁距離の限界を是正すること。
• 仮説集合と損失関数を差分を介して組み込むことで、よりタイトで情報量の多い学習保証を構築すること。
• 差分と凸結合を用いて、オンラインからバッチへの変換を変化する環境に一般化すること。
• 二次計画法（QP）を用いて差分に基づく一般化境界を最小化する実用的なアルゴリズムを設計すること。
• 提案されたアルゴリズムの性能を、合成的な変化する回帰タスクにおいて実証的に検証すること。

提案手法

• 本稿では、仮説集合と損失関数に依存する差分測度を定義し、先行するドメイン適応の概念を一般化している。
• 本稿では、Rademacher複雑度と差分を用いて、変化するPACモデルとトラッキングシナリオの両方における新しい一般化境界を導出している。
• 本手法では、差分と凸結合を用いて、オンラインからバッチへの変換を一般化するメタアルゴリズムを定式化している。
• 最良の凸結合を選択する最適化問題は、単純な二次計画問題（QP）として示されている。
• 本アルゴリズムは、時間的に変化するガウス分布と回転する重みベクトルを用いた回帰設定における合成データを用いて評価されている。
• 差分はラベルなしサンプルから推定されており、効率的な推定が可能になるよう、分布の周期的安定性を仮定している。

実験結果

リサーチクエスチョン

• RQ1 差分は、L₁距離に比べて、変化する分布学習における分布発散の測定において、よりタイトで情報量の多い指標を提供できるか？
• RQ2 Rademacher複雑度と差分が、分布の変化を伴うバッチ学習における一般化境界をどのように共同で改善するか？
• RQ3 差分と凸結合を用いて、オンラインからバッチへの変換を変化する状況に一般化できるか？
• RQ4 差分に基づく最適化問題は、実行可能であり、効率的に解けるか？
• RQ5 提案されたアルゴリズムは、合成的な変化するデータにおいて、一様平均化法や固定ウィンドウ平均化法を上回る性能を示すか？

主な発見

• 提案された差分に基づく一般化境界は、従来のL₁ベースの境界よりもタイトであり、Rademacher複雑度を用いて導出されており、より単純で明確な証明が可能である。
• 差分測度は、L₁距離とは異なり、仮説集合と損失関数の両方を考慮しており、これらを無視するL₁距離とは異なり、有限サンプルからの推定が劣悪になりにくい。
• 二次計画法（QP）を用いて差分に基づく境界を最小化するアルゴリズムは、合成データ上での一様平均化法や固定ウィンドウ平均化法を上回る性能を示しており、サンプルサイズの増加に伴い損失スケールが拡大しても、誤差が増大する状況でも同様に優れた性能を発揮している。
• 差分は、サイズnのラベルなしサンプルを用いてO(1/√n)の誤差で推定可能であり、分布が識別可能な周期にわたり安定している場合には、推定がより信頼性が高い。
• 本手法は、スパムフィルタリングやセンチメント分析など、長期的な分布安定性が見られる状況において実用的である。このような状況では、各サイクルごとにラベルなしサンプルを収集できる。
• 理論的枠組みは、[13]の不一致に基づくドリフトモデルなどの関連モデルにおける差分に基づく解析のさらなる研究を促進する。