[論文レビュー] Proceedings of the IJCAI 2017 Workshop on Learning in the Presence of Class Imbalance and Concept Drift (LPCICD'17)

Shuo Wang, Leandro L. Minku+2 more|arXiv (Cornell University)|Jul 28, 2017

Data Stream Mining Techniques参考文献 15被引用数 4

ひとこと要約

このワークショップ論文集は、機械学習におけるクラス不均衡とコンセプトドリフトの併存する課題に取り組み、現実のデータストリームにおけるモデルの頑健性を向上させる統合的アプローチを提案する。不均衡処理とドリフト検出の相互干渉が顕著であることを強調し、動的で歪んだデータ分布下でも予測性能を維持するための適応的で二重に注意を向けるアルゴリズムの導入を提唱する。

ABSTRACT

With the wide application of machine learning algorithms to the real world, class imbalance and concept drift have become crucial learning issues. Class imbalance happens when the data categories are not equally represented, i.e., at least one category is minority compared to other categories. It can cause learning bias towards the majority class and poor generalization. Concept drift is a change in the underlying distribution of the problem, and is a significant issue specially when learning from data streams. It requires learners to be adaptive to dynamic changes. Class imbalance and concept drift can significantly hinder predictive performance, and the problem becomes particularly challenging when they occur simultaneously. This challenge arises from the fact that one problem can affect the treatment of the other. For example, drift detection algorithms based on the traditional classification error may be sensitive to the imbalanced degree and become less effective; and class imbalance techniques need to be adaptive to changing imbalance rates, otherwise the class receiving the preferential treatment may not be the correct minority class at the current moment. Therefore, the mutual effect of class imbalance and concept drift should be considered during algorithm design. The aim of this workshop is to bring together researchers from the areas of class imbalance learning and concept drift in order to encourage discussions and new collaborations on solving the combined issue of class imbalance and concept drift. It provides a forum for international researchers and practitioners to share and discuss their original work on addressing new challenges and research issues in class imbalance learning, concept drift, and the combined issues of class imbalance and concept drift. The proceedings include 8 papers on these topics.

研究の動機と目的

• 現実の機械学習応用におけるクラス不均衡とコンセプトドリフトの増大する課題に対処すること。
• クラス不均衡処理手法とコンセプトドリフト検出メカニズムの間の相互干渉を調査すること。
• 両者を同時に処理できる適応的アルゴリズムの設計を促進するための共同研究を推進すること。
• データストリームにおける不均衡とドリフトの複合問題に対する解決策を共有するためのフォーラムを提供すること。
• 両分野の知見を統合することで、動的で不均衡なデータからの学習の最先端を前進させること。

提案手法

• IJCAI 2017でクラス不均衡学習とコンセプトドリフトに精通した専門家を集める専用ワークショップを企画する。
• クラス不均衡、コンセプトドリフト、およびそれらの併存効果を取り上げた8編のオリジナル研究論文を収集・公開する。
• 変化するクラス分布と不均衡率に適応できるアルゴリズムを推奨することで、手法の統合を促進する。
• 不均衡な状況下での従来の誤差ベースのドリフト検出の限界についての議論を促進する。
• 現在のデータ分布に基づいて動的にクラス優先順位を再割り当てできる学習システムの開発を支援する。
• 協働的で学際的なフォーラムを活用し、ドリフトと不均衡の両方を考慮したハイブリッドソリューションを検討する。

実験結果

リサーチクエスチョン

• RQ1 クラス不均衡は、従来のコンセプトドリフト検出アルゴリズムの性能にどのように影響するか？
• RQ2 コンセプトドリフトは、標準的なクラス不均衡緩和技術の適用をどの程度複雑にするか？
• RQ3 変化するデータ分布と進化するクラス不均衡率に同時に適応できる学習アルゴリズムを設計できるか？
• RQ4 データストリーム環境において不均衡とドリフトが同時に発生した際の主な失敗モードは何か？
• RQ5 既存の手法をどのように変更すれば、動的条件下でもマイノリティクラスが学習の焦点のまま保てるか？

主な発見

• クラス不均衡は、分類誤差に基づく従来のドリフト検出手法の有効性を顕著に低下させる可能性がある。
• 誤差率に敏感なドリフト検出アルゴリズムは、データが極めて不均衡な場合にコンセプト変化を特定できなくなる可能性がある。
• 不均衡率の変化に適応しない標準的なクラス不均衡処理手法は、誤ったマイノリティクラスを優遇する可能性がある。
• クラス不均衡とコンセプトドリフトの共存は、公平性と正確性の両方を損なう複雑な相互作用を生み出す。
• リアルタイム学習シナリオにおいて不均衡とドリフトの両方を統合的にモデル化・適応できるアルゴリズムの開発が急務である。
• 本ワークショップ論文集は、不均衡処理とドリフト適応を統合的学習フレームワークに統合するための新規研究方向性を浮き彫りにしている。