[論文レビュー] Relationship between Diversity and Perfomance of Multiple Classifiers for Decision Support

R Musehane, F Netshiongolwe+3 more|ArXiv.org|Oct 21, 2008

Neural Networks and Applications参考文献 13被引用数 3

ひとこと要約

本稿は、意思決定支援のためのアンサンブルニューラルネットワーク分類器における構造的多様性と分類精度の関係を調査する。隠れノード数と活性化関数を変化させることでアンサンブル内に多様性を誘導し、シャノン多様度とシンプソン多様度の指標に加えて遺伝的アルゴリズムを用いてアンサンブル性能を最適化することで、多様性が高くなるにつれて3%〜6%の精度向上が確認され、構造的多様性がアンサンブルの汎化性能を向上させることを裏付けた。

ABSTRACT

The paper presents the investigation and implementation of the relationship between diversity and the performance of multiple classifiers on classification accuracy. The study is critical as to build classifiers that are strong and can generalize better. The parameters of the neural network within the committee were varied to induce diversity; hence structural diversity is the focus for this study. The hidden nodes and the activation function are the parameters that were varied. The diversity measures that were adopted from ecology such as Shannon and Simpson were used to quantify diversity. Genetic algorithm is used to find the optimal ensemble by using the accuracy as the cost function. The results observed shows that there is a relationship between structural diversity and accuracy. It is observed that the classification accuracy of an ensemble increases as the diversity increases. There was an increase of 3%-6% in the classification accuracy.

研究の動機と目的

• 意思決定支援を目的とした複数分類器システムにおける多様性とパフォーマンスの関係を調査すること。
• ニューラルネットワーク委員会における構造的多様性を誘導することで一般化性能と分類精度を向上させること。
• 機械学習の文脈において生態学的指標（シャノンおよびシンプソンインデックス）を用いて多様性を定量化すること。
• 分類精度をフィットネス関数として用い、遺伝的アルゴリズムを用いてアンサンブルパフォーマンスを最適化すること。
• 構造的多様性が高まると分類精度が向上することを検証すること。

提案手法

• 個々のニューラルネットワークにおける隠れノード数と活性化関数を変化させることで、アンサンブル内に構造的多様性を生じさせること。
• アンサンブル全体における予測の多様性を測定するためにシャノン多様度とシンプソン多様度を適用すること。
• 分類精度をコスト関数として用い、最適な分類器の組み合わせを探索する遺伝的アルゴリズムを用いること。
• データセットに対してアンサンブルをトレーニングおよびテストし、多様性に起因するパフォーマンス向上を評価すること。
• 精度を最大化するように分類器構成を段階的に進化させ、多様性指標を追跡すること。
• 複数回の実行において、多様性レベルと最終的な分類精度の相関関係を評価すること。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークの委員会における構造的多様性を高めることで、分類精度が向上するか？
• RQ2 シャノンやシンプソンのような生態学的多様度指標は、機械学習アンサンブルにおける多様性を効果的に定量化できるか？
• RQ3 アンサンブルパフォーマンスを最大化する最適な多様性レベルが存在するか？
• RQ4 多様性を制御した状態で、遺伝的アルゴリズム最適化がどれほど精度を向上させるか？
• RQ5 隠れノード数と活性化関数の変更が、多様性とパフォーマンスのトレードオフにどのように影響するか？

主な発見

• アンサンブルシステムにおいて、構造的多様性と分類精度の間には正の相関関係が観察された。
• シャノン多様度とシンプソン多様度の指標が、分類器出力のばらつきを効果的に捉えていた。
• 構造的多様性が高まるにつれて分類精度が3%〜6%向上した。
• 遺伝的アルゴリズムは、精度を最適化することで、高性能なアンサンブル構成を効果的に同定した。
• 隠れノード数と活性化関数を変化させることで、構造的多様性を効果的に誘導できることが示された。
• 結果から、多様性が複数分類器システムの一般化能力を向上させる重要な要因であることが確認された。