[論文レビュー] Minimax Classifier for Uncertain Costs

Rui Wang, Ke Tang|arXiv (Cornell University)|May 2, 2012

Imbalanced Data Classification Techniques参考文献 8被引用数 4

ひとこと要約

本稿では、複数のコスト行列が可能性としてある状況下でのコストセンシティブ学習のためのミニマックス分類器フレームワークを提案する。理論的に、ミニマックス解は標準のコストセンシティブ問題と、コスト行列のペアに関する部分問題を解くことで得られることを証明しており、理論的保証と実験的妥当性を備えた、コストの不確実性に強い分類が可能である。

ABSTRACT

Many studies on the cost-sensitive learning assumed that a unique cost matrix is known for a problem. However, this assumption may not hold for many real-world problems. For example, a classifier might need to be applied in several circumstances, each of which associates with a different cost matrix. Or, different human experts have different opinions about the costs for a given problem. Motivated by these facts, this study aims to seek the minimax classifier over multiple cost matrices. In summary, we theoretically proved that, no matter how many cost matrices are involved, the minimax problem can be tackled by solving a number of standard cost-sensitive problems and sub-problems that involve only two cost matrices. As a result, a general framework for achieving minimax classifier over multiple cost matrices is suggested and justified by preliminary empirical studies.

研究の動機と目的

• 誤分類コストが不確実であるか、状況によって変動する現実世界のコストセンシティブ学習問題に対処すること。
• 複数の可能なコスト行列のうち、最大の総コストを最小化する分類器を発見するフレームワークを開発すること。
• 訓練時に単一で既知のコスト行列を仮定する従来の手法の制限を克服すること。
• 理論的裏付けと実験的妥当性を備えた、コストの不確実性下でのロバストな分類のためのアプローチを提供すること。

提案手法

• 理論的分析により、複数のコスト行列におけるミニマックス分類器が、単一のコスト行列に対して最適であるか、またはペアのコスト行列におけるミニマックスであることが示された。
• フレームワークは、ミニマックス問題を標準のコストセンシティブ学習問題と、2つのコスト行列を含む一連の部分問題に還元する。
• 標準のコストセンシティブ学習とペアワイズミニマックス最適化を組み合わせた一般化されたアルゴリズムパイプラインを提案する。
• 連続的なコスト区間への応用を可能とするために、離散化を用いて区間ベースのコスト不確実性に対応できるように拡張した。
• 実験的妥当性として、標準のコストセンシティブ学習モデル（例：SVM、決定木）をフレームワーク内のベースラーナーとして用いた。
• 8つのUCIデータセットを用いて、異なる数のコスト行列を想定した評価を行い、標準的および後処理を施した分類器と性能を比較した。

実験結果

リサーチクエスチョン

• RQ1 単一の既知のコスト行列を仮定するのではなく、複数のコスト行列が可能である状況でミニマックス分類器を構築できるか？
• RQ2 複数のコスト行列におけるミニマックス解は、2つのコスト行列を同時に含む問題に還元可能か？
• RQ3 コストの不確実性下で、提案フレームワークは標準的コストセンシティブ学習および後処理手法と比較して実際の性能をどのように発揮するか？
• RQ4 離散化を用いることで、区間ベースのコスト不確実性に対応できるか？
• RQ5 多様なデータセットにおける、最悪ケースの総コストという観点から、ミニマックスフレームワークの実証的パフォーマンス向上はどの程度か？

主な発見

• 複数のコスト行列におけるミニマックス分類器は、標準のコストセンシティブ学習問題と、2つのコスト行列を含む一連の部分問題を解くことで実現可能である。
• フレームワークは理論的に妥当であり、有限集合および離散化を用いた連続区間の両方に対応可能である。
• 実験的結果から、提案されたSP（Single Pair）フレームワークは、全テストデータセットで標準的および後処理手法よりも最悪ケースの総コストが低くなることが確認された。
• 平均して、SPフレームワークは標準的コストセンシティブ学習および後処理ベースライン比で、最悪ケースの総コストを最大30％まで削減した。
• 16の実験設定（8データセット × 2コスト区間サイズ）のうち14で、既存手法を上回った。これは、不確実性下でも高いロバスト性を示している。
• 結果から、ペアワイズミニマックス問題の解法が主な技術的チャレンジであることが確認され、今後の研究はこの部分問題に対する効率的アルゴリズムの開発に注力すべきである。