[論文レビュー] eAnt-Miner : An Ensemble Ant-Miner to Improve the ACO Classification

Gopinath Chennupati|arXiv (Cornell University)|Sep 9, 2014

Metaheuristic Optimization Algorithms Research参考文献 10被引用数 4

ひとこと要約

本稿では、アンサンブルベースのAnt-Miner分類器であるeAnt-Minerを提案する。この手法は、複数のAnt-Minerバリエーションにバギングを適用することで、ACOに基づくルールインダクションにおける安定性と性能を向上させる。ブートストラップされた訓練集合上で複数のモデルを学習し、予測を多数決によって集約することで、eAnt-Minerは17のUCIデータセットにおいて分類誤差を顕著に低減し、耐性性を向上させる。eATMは最先端のAnt-Minerを上回る性能を示した。

ABSTRACT

Ant Colony Optimization (ACO) has been applied in supervised learning in order to induce classification rules as well as decision trees, named Ant-Miners. Although these are competitive classifiers, the stability of these classifiers is an important concern that owes to their stochastic nature. In this paper, to address this issue, an acclaimed machine learning technique named, ensemble of classifiers is applied, where an ACO classifier is used as a base classifier to prepare the ensemble. The main trade-off is, the predictions in the new approach are determined by discovering a group of models as opposed to the single model classification. In essence, we prepare multiple models from the randomly replaced samples of training data from which, a unique model is prepared by aggregating the models to test the unseen data points. The main objective of this new approach is to increase the stability of the Ant-Miner results there by improving the performance of ACO classification. We found that the ensemble Ant-Miners significantly improved the stability by reducing the classification error on unseen data.

研究の動機と目的

• ACOに基づくルールインダクションにおけるStochasticな性質に起因するAnt-Miner分類器の不安定性を解消すること。
• アンサンブル学習を用いてAnt-Minerバリエーションの予測精度と耐性性を向上させること。
• バギングがACOに基づく分類における分類誤差の低減とモデル安定性の向上に寄与するかを評価すること。
• さまざまなベンチマークデータセットにおいて、アンサンブルAnt-Minerと単一Ant-Minerモデルの性能を比較すること。
• さまざまなAnt-Minerバリエーションの中から、最も安定的で正確なアンサンブル構成を同定すること。

提案手法

• 提案されたeAnt-Minerフレームワークは、cAnt-Miner、cAnt-MinerPB、UcAnt-MinerPB、およびAnt-Tree-Minerを含む複数のAnt-Minerバリエーションにバギングを適用する。
• 各ベースとなるAnt-Minerバリエーションに対して、リサンプリング（復元抽出）された訓練集合上で複数のモデルを学習する。
• 最終的な予測は、アンサンブル内のモデルの予測を多数決によって集約することで行い、安定性の向上と分散の低減を図る。
• 発見されたルールの品質は、正確性とルールの複雑さのバランスを取るためのフィットネス関数を用いて評価される。
• フェロモン更新ルールは標準的なACOの原則に従い、高品質なルールに含まれる用語を強化し、他の用語は蒸発させる。
• 性能差の統計的有意性は、多重仮説検定に適したShaffer手続きを用いて評価される。

実験結果

リサーチクエスチョン

• RQ1 バギングによるアンサンブル学習を適用することで、Ant-Miner分類器の分類誤差が顕著に低減するか？
• RQ2 アンサンブル手法を用いることで、Ant-Minerモデルの安定性は単一モデルと比較してどのように変化するか？
• RQ3 精度と安定性の観点から、どのAnt-Minerバリエーションがアンサンブル統合によって最も恩恵を受けるか？
• RQ4 さまざまなUCIデータセットにおいて、アンサンブルアプローチによる性能向上が統計的に有意であるか？
• RQ5 eAnt-Minerは、テスト誤差とモデル耐性性の観点から、最先端のAnt-Minerバリエーションを上回ることができるか？

主な発見

• アンサンブルAnt-Miner（eATM）は、分類誤差の観点から、単一のAnt-Tree-Miner（ATM）および他のすべてのAnt-Minerバリエーションを顕著に上回った。
• eUcAnt-MinerPBは、対比較において平均順位6.51を達成し、優れた性能を示した。
• Shaffer手続きにより、eUcAnt-MinerPBがcAnt-Minerを顕著に上回ることが確認され、p値は7.45e-11であった。
• アンサンブルアプローチは、すべての17のUCIデータセットで分類誤差を低減し、モデルの安定性と信頼性を向上させた。
• eATMは、マルチクラスファイア比較において平均順位1.19を記録し、最優秀の精度を示した。
• 結果から、アンサンブル手法がACOに基づく分類器に内在するStochasticな不安定性を効果的に緩和できることを示した。