[論文レビュー] A Harmony Search Based Wrapper Feature Selection Method for Holistic Bangla word Recognition

Supratim Das, Pawan Kumar Singh+3 more|arXiv (Cornell University)|Jul 26, 2017

Text and Document Classification Technologies参考文献 13被引用数 3

ひとこと要約

本稿では、統合的ベンガル手書き単語認識における次元削減を目的として、ハーモニー探索（HS）に基づくラッパー特徴選択手法を提案する。初期の65個の楕円特徴から48個の最適特徴を選択することで、マルチレイヤーパーセプトロン分類器を用いて90.29%の認識精度を達成した。これは過去の結果を上回り、GA、PSO、PCAと比較しても精度と特徴量効率の両面で優れている。

ABSTRACT

A lot of search approaches have been explored for the selection of features in pattern classification domain in order to discover significant subset of the features which produces better accuracy. In this paper, we introduced a Harmony Search (HS) algorithm based feature selection method for feature dimensionality reduction in handwritten Bangla word recognition problem. This algorithm has been implemented to reduce the feature dimensionality of a technique described in one of our previous papers by S. Bhowmik et al.[1]. In the said paper, a set of 65 elliptical features were computed for handwritten Bangla word recognition purpose and a recognition accuracy of 81.37% was achieved using Multi Layer Perceptron (MLP) classifier. In the present work, a subset containing 48 features (approximately 75% of said feature vector) has been selected by HS based wrapper feature selection method which produces an accuracy rate of 90.29%. Reasonable outcomes also validates that the introduced algorithm utilizes optimal number of features while showing higher classification accuracies when compared to two standard evolutionary algorithms like Genetic Algorithm (GA), Particle Swarm Optimization (PSO) and statistical feature dimensionality reduction technique like Principal Component Analysis (PCA). This confirms the suitability of HS algorithm to the holistic handwritten word recognition problem.

研究の動機と目的

• 分類効率を阻害する高次元特徴空間の問題に対処すること。
• 認識精度を維持または向上させつつ特徴次元を削減すること。
• 既存の進化的アルゴリズムおよび統計的手法と比較して、ハーモニー探索（HS）をラッパー特徴選択手法としての有効性を評価すること。
• 手書きベンガル語単語の分類性能を最大化する最小限で最適な特徴サブセットを同定すること。

提案手法

• 初期の65個の楕円特徴から最適な特徴サブセットを探索するために、ハーモニー探索（HS）アルゴリズムをラッパー手法として採用する。
• HSアルゴリズムは繰り返し新しい特徴組み合わせ（ハーモニー・ベクトル）を生成し、マルチレイヤーパーセプトロン（MLP）分類器を用いて評価し、分類精度に応じてハーモニー記憶を更新する。
• フィットネス評価は、検証セットにおけるMLP分類器の認識精度を用いて実施され、より高い性能を示す特徴サブセットへ向かう探索を導く。
• アルゴリズムは候補解のハーモニー記憶を維持し、ピッチ調整およびバンド幅パラメータを用いて探索と活用の両方を効果的に行う。
• 所定の反復回数または収束基準に達するまでプロセスを継続し、最良の性能を示す特徴サブセットを出力する。
• 選択された特徴サブセットは、最終的な認識精度を測定するためにテストセットで検証される。

実験結果

リサーチクエスチョン

• RQ1 ハーモニー探索アルゴリズムは、分類精度を維持または向上させつつ、統合的ベンガル語単語認識における特徴次元を効果的に削減できるか？
• RQ2 遺伝的アルゴリズム（GA）、粒子群最適化（PSO）、主成分分析（PCA）と比較して、HSに基づくラッパー特徴選択手法は認識精度および特徴量削減の観点でどのように差をつけるか？
• RQ3 統合的ベンガル語単語認識タスクで高い認識精度を達成するために必要な最適な特徴数は何か？
• RQ4 HSに基づく手法は、標準的な次元削減技術と比較して、よりコン act かつ情報量の多い特徴サブセットを抽出できるか？

主な発見

• 提案されたHSに基づくラッパー特徴選択手法は、65個の特徴から48個に削減された状態で90.29%の認識精度を達成した。これは元の65特徴セットから75%の次元削減を意味する。
• ベースライン手法（65特徴で81.37%の精度）と比較して顕著に優れており、知能的な特徴サブセット選択の利点を示している。
• 遺伝的アルゴリズム（GA）および粒子群最適化（PSO）と比較して、分類精度で優れた結果を示しており、本文脈におけるHSの優位性を裏付けている。
• 統計的次元削減手法としての主成分分析（PCA）と比較しても、認識精度で優れた結果を示した。
• HSアルゴリズムが探索と活用のバランスを適切に取れるため、統合的手書きベンガル語単語認識における特徴選択に適していることが実証された。
• 最適な特徴選択により、少ない特徴数で高い精度が達成され、性能を損なわず計算効率が向上することが確認された。