[論文レビュー] New crossover operators for multiple subset selection tasks

Arnab Roy, J. David Schaffer+1 more|arXiv (Cornell University)|Aug 6, 2014

Fuzzy Logic and Control Systems参考文献 33被引用数 8

ひとこと要約

本論文は、数値属性を持つ特徴量と変動するサブセットサイズを有する同時複数サブセット選択を目的とした、2つの新規な遺伝的アルゴリズムの交差演算子、MMX-BLX exploit と MMX-BLX explore を提案する。これらの演算子は、探索と活用のバランスに差を示す：MMX-BLX explore は準一定の変異率を維持することで一般化性能を向上させる一方、MMX-BLX exploit は正のリスペクト（両親からの共通特徴の継承）を強調し、収束制御を実現する。EEGを用いたアルコール依存症の検出において、MMX-BLX explore は顕著に優れたテストセット性能（例：0.0417 対 0.1282 のペナルティ）を達成し、優れたロバストネスを示した。

ABSTRACT

We have introduced two crossover operators, MMX-BLXexploit and MMX-BLXexplore, for simultaneously solving multiple feature/subset selection problems where the features may have numeric attributes and the subset sizes are not predefined. These operators differ on the level of exploration and exploitation they perform; one is designed to produce convergence controlled mutation and the other exhibits a quasi-constant mutation rate. We illustrate the characteristic of these operators by evolving pattern detectors to distinguish alcoholics from controls using their visually evoked response potentials (VERPs). This task encapsulates two groups of subset selection problems; choosing a subset of EEG leads along with the lead-weights (features with attributes) and the other that defines the temporal pattern that characterizes the alcoholic VERPs. We observed better generalization performance from MMX-BLXexplore. Perhaps, MMX-BLXexploit was handicapped by not having a restart mechanism. These operators are novel and appears to hold promise for solving simultaneous feature selection problems.

研究の動機と目的

• 特徴量に数値属性が存在し、サブセットサイズが事前に定義されていない複数のサブセット選択問題を同時に解く課題に対処すること。
• 遺伝的アルゴリズムを用いた特徴選択において、探索と活用のバランスを取る交差演算子を開発すること。
• 具体的には、誘発電位を用いたアルコール依存性と対照群の脳応答を区別する神経生理学的データ解析において、一般化性能を向上させること。
• 従来の MMX に基づく交差演算子を拡張し、BLX にインspired されたブレンドメカニズムを用いて、変動するサブセットサイズと数値特徴量をサポートすること。

提案手法

• MMX-SSS 交差演算子の拡張として、数値属性と変動するサブセットサイズを扱えるように、BLX（ブレンド交差）メカニズムを統合した MMX-BLX exploit および MMX-BLX explore を提案した。
• MMX-BLX exploit は正のリスペクト（両親からの共通特徴の継承）を強制し、収束制御された変異を用いることで、時間経過に伴い遺伝的多様性が低下する。
• MMX-BLX explore は一部のリスペクトを犠牲にして、準一定の変異率を維持することで、継続的な探索と多様性の保持を促進する。
• 評価は、視覚誘発反応電位（VERPs）から得たEEGデータを用いたラッパー・モデル上で実施した。タスクは、重みと時間的パターンを有するEEGリードの選択を含む。
• 時間的パターン検出器（TPD）を用いて、複雑な時空間的パターンを符号化・進化可能にし、事前に特徴ベクトルを定義しないまま分類器そのものを直接進化可能にした。
• 進化は、訓練集合およびテスト集合の両方で性能を測定する人口ペナルティ関数に従い、3回の独立した実験を通じて実施された。

実験結果

リサーチクエスチョン

• RQ1 数値特徴量を有する複数サブセット選択において、探索と活用のバランスを効果的にとる交差演算子を設計できるか？
• RQ2 準一定の変異率を維持することで、神経生理学的データに対する遺伝的アルゴリズムベースの特徴選択における一般化性能が向上するか？
• RQ3 収束制御された変異とリスペクトに基づく継承は、実世界のEEG分類タスクにおける性能にどのように影響するか？
• RQ4 1つの進化プロセスで、神経生理学的分類問題の空間的（センサ選択）および時間的（パターン検出）側面を同時に最適化できるか？

主な発見

• MMX-BLX explore は、MMX-BLX exploit より顕著に優れた一般化性能を示し、3回の実験でテストセットペナルティがそれぞれ 0.0417、0.0703、0.0906 であったのに対し、MMX-BLX exploit は 0.1282、0.0900、0.1283 であった。
• MMX-BLX exploit は収束制御された変異を示し、1500世代目には変異イベントがゼロに低下しており、時間経過に伴い探索が減少していることが示された。
• MMX-BLX explore は準一定の変異率を維持し、遺伝的多様性を保ち、少なくとも5000世代までは継続的な探索が可能であった。
• 進化プロセスは、事前に指定されたタスク順序なしに、空間的特徴選択（EEGリード選択）を優先して処理し、その後時間的パターン最適化に移行する傾向を示した。
• やや優れた訓練集合性能を示したものの、MMX-BLX exploit はソフトリスタート機構を欠いているため、一般化性能に悪影響を及ぼした可能性が高く、収束制御型演算子にはこうした機構の導入が求められる。
• TPDに基づく進化的アプローチは、従来の方法で一般的に用いられる事前の特徴ベクトル構築を回避し、1段階で分類タスクを効果的に解決できた。