[論文レビュー] Online Semi-Supervised Concept Drift Detection with Density Estimation

Chang Tan, Vincent C. S. Lee+1 more|arXiv (Cornell University)|Sep 25, 2019

Data Stream Mining Techniques参考文献 25被引用数 4

ひとこと要約

本稿では、後方確率密度推定を用いて、ラベルが限られた状況下でもリアルタイムに本物のドリフトおよび仮想的ドリフトを検出可能な、オンライン半教師ありフレームワークを提案する。この手法は、部分的にラベルが付与された環境でも高いドリフト検出性能を維持しながら、最先端の予測性能を達成する。

ABSTRACT

Concept drift is formally defined as the change in joint distribution of a set of input variables X and a target variable y. The two types of drift that are extensively studied are real drift and virtual drift where the former is the change in posterior probabilities p(y|X) while the latter is the change in distribution of X without affecting the posterior probabilities. Many approaches on concept drift detection either assume full availability of data labels, y or handle only the virtual drift. In a streaming environment, the assumption of full availability of data labels, y is questioned. On the other hand, approaches that deal with virtual drift failed to address real drift. Rather than improving the state-of-the-art methods, this paper presents a semi-supervised framework to deal with the challenges above. The objective of the proposed framework is to learn from streaming environment with limited data labels, y and detect real drift concurrently. This paper proposes a novel concept drift detection method utilizing the densities of posterior probabilities in partially labeled streaming environments. Experimental results on both synthetic and realworld datasets show that our proposed semi-supervised framework enables the detection of concept drift in such environment while achieving comparable prediction performance to the state-of-the-art methods.

研究の動機と目的

• 完全なラベルの可用性が現実的でないストリーミング環境におけるコンセプストラック検出の課題に対処すること。
• 部分的にラベルが付与されたデータにおいて、p(y|X)の変化を示す本物のドリフトと、Xの分布に変化があるがp(y|X)に影響しない仮想的ドリフトの両方を同時に検出すること。
• 予測性能を高く保ちながら、限られた監督情報のもとでドリフトを検出できるスケーラブルでオンライン学習可能なフレームワークを開発すること。
• 完全ラベルの前提を必要とする既存手法や、半教師あり設定で本物のドリフトを検出できない手法の限界を克服すること。

提案手法

• 時間経過に伴う同時分布の変化を検出するために、後方確率p(y|X)の密度推定を用いる。
• 新しいデータが到着するたびに密度モデルを段階的に更新するオンライン学習メカニズムを適用する。
• 完全ラベルの必要がない半教師ありの枠組みで、ラベル付きおよびラベルなしデータを併用して、後方確率密度を推定する。
• 時間窓ごとの推定された後方確率密度における統計的発散をモニタリングすることで、コンセプストラックを検出する。
• 核密度推定や同様の非パラメトリック手法を用い、ストリーミング環境下で変化する後方分布をモデル化する。
• ドリフト検出とモデル再訓練を統合することで、コンセプストラック下でも予測精度を維持する。

実験結果

リサーチクエスチョン

• RQ1 ストリーミング環境下でラベルの一部しか入手できない状況でも、半教師ありフレームワークはコンセプストラックを効果的に検出できるか？
• RQ2 提案手法は、完全ラベル付きまたは無教師の代替手法と比較して、本物のドリフトおよび仮想的ドリフトの両方をどの程度効果的に検出できるか？
• RQ3 ラベルが限られた状況下でも、この手法はどの程度予測性能を維持できるか？
• RQ4 ラベルが少ない状況下で、ドリフト検出メカニズムは後方分布の変化に対してどの程度感受性を示すか？

主な発見

• 本手法は、部分的なラベルしか使用しないにもかかわらず、最先端の完全ラベル付き手法と同等の予測性能を達成する。
• 本手法は、合成データおよび実世界のデータセットにおいて、半教師あり条件下で本物のドリフトおよび仮想的ドリフトの両方を効果的に検出する。
• 後方確率の密度推定により、ラベルの可用性が低い状況下でも信頼性の高いドリフト検出が可能になる。
• 本手法のオンライン性のおかげで、再訓練を再スタートする必要なくリアルタイムでの適応と検出が可能になる。