[論文レビュー] Learning with a Drifting Target Concept

Steve Hanneke, Varun Kanade+1 more|arXiv (Cornell University)|May 20, 2015

Machine Learning and Algorithms参考文献 14被引用数 4

ひとこと要約

本稿では、一定の割合で変化するターゲットコンセプトを学習するための多項式時間アルゴリズムを提示する。真のコンセプトは時間とともに変化するが、その変化率は有界である。この手法は、計算的に非効率な手法と同等の誤り率の境界を達成しており、特に一様分布下での線形分離器において顕著である。また、未知のドリフトレートに適応可能であり、ラベルクエリ数を最小限に抑えるアクティブラーニングの拡張も提案している。

ABSTRACT

We study the problem of learning in the presence of a drifting target concept. Specifically, we provide bounds on the error rate at a given time, given a learner with access to a history of independent samples labeled according to a target concept that can change on each round. One of our main contributions is a refinement of the best previous results for polynomial-time algorithms for the space of linear separators under a uniform distribution. We also provide general results for an algorithm capable of adapting to a variable rate of drift of the target concept. Some of the results also describe an active learning variant of this setting, and provide bounds on the number of queries for the labels of points in the sequence sufficient to obtain the stated bounds on the error rates.

研究の動機と目的

• 顔認識などの実世界の応用で一般的に見られるように、ターゲットコンセプトが時間とともに変化する状況における学習の課題に取り組む。
• ドリフトするコンセプト設定において、計算的に効率的なアルゴリズムと、非効率な手法が達成可能な理論的最適誤り率のギャップを埋める。
• ドリフトレートの系列 $\Delta_t$ を事前に知らなくてもよい、適応的アルゴリズムの開発。
• ラベルクエリを戦略的に要求することでラベルコストを低減できる、アクティブラーニングへのフレームワークの拡張。
• 信頼性のある性能を達成するために必要な誤り率とラベルクエリ数の理論的境界を確立すること。

提案手法

• 時間の区間ごとに分割し、進化するコンセプトを追跡するための仮説集合の系列 $V_k$ を維持する、新規のアクティブラーニングアルゴリズムを提案。
• 不確実性に基づく選択メカニズムを用い、現在の仮説が真のコンセプトについて不確実である場合にのみ、意見の食い違い領域に基づいてラベルを要求。
• 複数の時間区間における和集合の不等式を用いて誤り確率を制御し、集中不等式とVC次元に基づく一般化境界を活用。
• 修正されたパーセプトロンに類似した更新ルールを再帰的に適用して仮説集合を精錬し、時間経過に伴う低誤り率を維持。
• 観測データに基づいて動的に調整されるドリフト適応戦略を導入し、$\Delta_t$ を明示的に知る必要がない。
• 幾何確率と次元 $d$ およびドリフトパラメータ $\Delta$ における対数スケーリングの組み合わせを用いて、予想されるミス数とラベルクエリ数の境界を導出。

実験結果

リサーチクエスチョン

• RQ1 多項式時間アルゴリズムは、ドリフトするコンセプト設定において、計算的に非効率な手法と同等の誤り率境界を達成できるか？
• RQ2 ドリフトレート $\Delta_t$ の変動に適応できるアルゴリズムを設計可能か？ その場合、これらの値を事前に明示的に知る必要はないか？
• RQ3 コンセプトドリフトを伴うアクティブラーニング設定で、低誤り率を維持するために必要な最小ラベルクエリ数はどの程度か？
• RQ4 ドリフト系列 $\Delta_t$ が満たすべき条件は何か？ これにより、ミス数の非線形的増加が可能になる。
• RQ5 コンセプトドリフト、次元 $d$、ラベルクエリ効率の間の相互作用が、学習性能にどのように影響を与えるか？

主な発見

• 提案されたアルゴリズムは、$O\left(\sqrt{d\Delta} \cdot \mathrm{Log}(d/\Delta) \cdot \mathrm{Log}(1/(d\Delta)) \cdot T\right)$ の期待誤り率を達成し、非効率な手法の理論的境界と一致する。
• 期待ラベルクエリ数は、$O\left(\theta_{\mathbb{C}}\left(\sqrt{d\Delta} \cdot \mathrm{Log}(1/(d\Delta))\right) \cdot \sqrt{d\Delta} \cdot \mathrm{Log}(d/\Delta) \cdot \mathrm{Log}(1/(d\Delta)) \cdot T\right)$ で抑えられ、ラベルの使用効率が良好であることが示された。
• 一様分布下の同質的線形分離器の場合、誤り境界がほぼ最適に近づき、効率的学習における長年の未解決問題を解決した。
• ドリフトレートが事前に不明でも適応可能であり、依然として近似的に最適な性能を達成している。
• 分析により、ミス数の非線形的増加が可能になるのは、ドリフト系列 $\Delta_t$ が $\sqrt{d\Delta}$ に関連するある種のsummability条件を満たす場合に限ることが判明した。
• アクティブラーニングの拡張は、意見の食い違い領域の点に集中することで、ラベル要求数を著しく削減し、誤りとクエリ効率の両面で理論的保証を有している。