[論文レビュー] Improving PSO Global Method for Feature Selection According to Iterations Global Search and Chaotic Theory

Shahin Pourbahrami|arXiv (Cornell University)|Nov 21, 2018

Metaheuristic Optimization Algorithms Research参考文献 56被引用数 5

ひとこと要約

本稿では、特徴選択のための改良型粒子群最適化（PSO）手法であるISPSO-GLOBALを提案する。本手法は、カオス的初期化と反復ベースのグローバルサーチを統合することで、探索能と収束性を向上させる。カオス理論を用いた集団初期化と動的特徴数式を活用することで、最先端の手法と比較して、多数の実世界データセットにおいて優れた分類精度と低減された計算複雑性を達成する。

ABSTRACT

Making a simple model by choosing a limited number of features with the purpose of reducing the computational complexity of the algorithms involved in classification is one of the main issues in machine learning and data mining. The aim of Feature Selection (FS) is to reduce the number of redundant and irrelevant features and improve the accuracy of classification in a data set. We propose an efficient ISPSO-GLOBAL (Improved Seeding Particle Swarm Optimization GLOBAL) method which investigates the specified iterations to produce prominent features and store them in storage list. The goal is to find informative features based on its iteration frequency with favorable fitness for the next generation and high exploration. Our method exploits of a new initialization strategy in PSO which improves space search and utilizes chaos theory to enhance the population initialization, then we offer a new formula to determine the features size used in proposed method. Our experiments with real-world data sets show that the performance of the ISPSO-GLOBAL is superior comparing with state-of-the-art methods in most of the data sets.

研究の動機と目的

• 機械学習における計算複雑性を低減するため、最小限の関連特徴のセットを選択すること。
• 強化された初期化戦略を通じて、特徴選択におけるPSOの探索能力を向上させること。
• カオス理論をPSOに統合し、初期集団の多様性を高め、早期収束を回避すること。
• 反復頻度と適合度に基づいた動的特徴数決定式を開発すること。
• 従来の手法と比較して、より少ない特徴で高い分類精度を達成すること。

提案手法

• PSOにおける集団の多様性とグローバルサーチ能力を向上させるため、新規のカオス的初期化戦略を導入する。
• 反復ベースのグローバルサーチを用いて、適合度スコアが高く頻繁に選択された特徴を特定・保存する。
• 反復頻度と適合度に基づいて、選択する特徴数を決定するための新しい式を提案する。
• 反復を通じて上位のパフォーマンスを示す特徴を保持するためのストレージリストを活用し、将来の世代をガイドする。
• カオス列（例：ロジスティック写像）とPSOを組み合わせ、多様な初期粒子位置を生成する。
• 各反復において、適合度評価と適応的学習ルールを適用して粒子の位置と速度を更新する。

実験結果

リサーチクエスチョン

• RQ1 カオス的初期化は、特徴選択におけるPSOのグローバルサーチ性能を向上させることができるか？
• RQ2 反復を通じた特徴頻度の追跡は、情報量の多い特徴の選択をどのように向上させるか？
• RQ3 反復頻度と適合度に基づいた動的特徴数式は、分類精度を向上させることができるか？
• RQ4 提案されたISPSO-GLOBAL手法は、既存のPSOベースおよび非PSO特徴選択技術を上回るか？
• RQ5 本手法は、分類精度を維持または向上させつつ、計算複雑性をどの程度低減できるか？

主な発見

• ISPSO-GLOBAL手法は、多数の実世界データセットにおいて、最先端の手法と比較して高い分類精度を達成した。
• カオス的初期化の統合により、集団の多様性が顕著に向上し、早期収束のリスクが低減された。
• 反復頻度に基づく特徴選択は、より安定的で情報量の多い特徴サブセットをもたらした。
• 動的特徴数式により、モデルの複雑さと性能のバランスがより良く取れた。
• 多数のベンチマークデータセットを通じて、優れた収束速度とロバスト性を示した。
• 提案手法は、反復を通じて高頻度で高適合度の特徴に焦点を当てることで、計算オーバーヘッドを低減した。