[論文レビュー] Aggregation of Classifiers: A Justifiable Information Granularity Approach

Tien Thanh Nguyen, Xuan Cuong Pham+2 more|arXiv (Cornell University)|Mar 15, 2017

Rough Sets and Fuzzy Logic参考文献 34被引用数 4

ひとこと要約

本稿では、不確実性と多様性を固定された数値ではなく区間の境界によってモデル化する区間値情報粒度を用いた、異種分類器を統合する新しいアンサンブル学習手法を提案する。この手法は意思決定における粒度の不確実性を活用することで、UCIデータセット全体でベースライン手法（AdaBoost、Bagging、複数の固定/学習済み結合ルール）を上回る分類性能を達成する。

ABSTRACT

In this study, we introduce a new approach to combine multi-classifiers in an ensemble system. Instead of using numeric membership values encountered in fixed combining rules, we construct interval membership values associated with each class prediction at the level of meta-data of observation by using concepts of information granules. In the proposed method, uncertainty (diversity) of findings produced by the base classifiers is quantified by interval-based information granules. The discriminative decision model is generated by considering both the bounds and the length of the obtained intervals. We select ten and then fifteen learning algorithms to build a heterogeneous ensemble system and then conducted the experiment on a number of UCI datasets. The experimental results demonstrate that the proposed approach performs better than the benchmark algorithms including six fixed combining methods, one trainable combining method, AdaBoost, Bagging, and Random Subspace.

研究の動機と目的

• 固定された結合ルールがベース分類器間の不確実性と多様性を無視するというアンサンブル学習の限界を是正すること。
• クリスプなメンバーシップ値の代わりに区間として表現される情報粒度を用いて、分類器の不確実性と多様性をモデル化すること。
• 区間の両端と区間長を両方考慮する判別的意思決定モデルを構築し、分類精度を向上させること。
• 多様な学習アルゴリズムを用いた標準的なUCIデータセット上で、異種アンサンブルシステムを用いて提案手法を評価すること。
• AdaBoost、Bagging、およびランダムサブスペースなどの既存のアンサンブル手法と比較して優れた性能を示すことを実証すること。

提案手法

• 情報粒度理論を用いて、各クラス予測の区間メンバーシップ値を構築し、ベース分類器からの不確実性と多様性を表現する。
• 区間の下限と上限に加え、区間長を判別的意思決定モデルの特徴量として用いる。
• 最終意思決定を数値スコアではなく、区間に基づく粒度的表現から得るメタラーニングアプローチを適用する。
• 安定な評価のため、10および15の多様な学習アルゴリズムを選択し、異種アンサンブルシステムを構築する。
• 複数のUCIベンチマークデータセット上でアンサンブルを学習・評価し、汎化性能と性能を評価する。
• 固定された6つの結合ルール、1つのトレーニング可能な手法、AdaBoost、Bagging、およびランダムサブスペースと比較して、区間ベースの統合を実施する。

実験結果

リサーチクエスチョン

• RQ1 アンサンブルシステムにおけるベース分類器間の不確実性と多様性を、区間値情報粒度が効果的に表現できるか？
• RQ2 意思決定モデルに区間の境界と区間長を組み込むことで、従来の統合手法に比べて分類性能が向上するか？
• RQ3 提案された粒度的統合アプローチは、AdaBoost や Bagging などの既存のアンサンブル手法と比較して、多様なデータセットで優れた性能を示すか？
• RQ4 異種のベースラーナーを用いることで、区間ベースのアンサンブルのロバスト性と精度がどの程度向上するか？
• RQ5 固定または学習済みの数値結合ルールと比較して、提案手法は不確実性モデル化の観点からより妥当性があると評価できるか？

主な発見

• 提案された区間ベースの統合手法は、テストされたUCIデータセットにおいて6つの固定結合ルールを上回る優れた分類精度を達成した。
• トレーニング可能な結合手法をも上回ったことから、粒度的不確実性モデル化が学習済み数値重みよりも、アンサンブル意思決定の根拠としてより効果的であることが示された。
• 15個の多様なベースラーナーを用いた異種アンサンブルは、単純なアンサンブル構成よりも一貫して高い性能を示した。
• 区間長を判別的特徴量として組み込むことで、より良い意思決定境界と一般化性能の向上に寄与した。
• 複数のデータセットにわたり、安定した性能向上を示し、AdaBoost や Bagging、ランダムサブスペースを常に上回った。
• 結果から、情報粒度がアンサンブル学習における分類器の不確実性をモデル化する上で、より妥当かつ解釈可能なフレームワークを提供することが検証された。