[論文レビュー] Performance Comparison of SVM and ANN for Handwritten Devnagari Character Recognition

Sandhya Arora, Debotosh Bhattacharjee+4 more|arXiv (Cornell University)|Jun 30, 2010

Handwritten Text Recognition Techniques参考文献 45被引用数 95

ひとこと要約

この論文は、手書きデーヴァナーガリー文字認識におけるサポートベクターマシン（SVM）と人工ニューラルネットワーク（ANN）を比較する。前処理済み画像からシャドウ特徴、チェーンコードヒストグラム、ビュー基準、および最長ラン特徴を抽出した後、両分類器を評価した結果、ベンチマークデータセット上でSVMが94.8%の高い正確性を達成したのに対し、ANNは92.1%にとどまり、このタスクにおいてSVMの優れた性能が示された。

ABSTRACT

Classification methods based on learning from examples have been widely applied to character recognition from the 1990s and have brought forth significant improvements of recognition accuracies. This class of methods includes statistical methods, artificial neural networks, support vector machines (SVM), multiple classifier combination, etc. In this paper, we discuss the characteristics of the some classification methods that have been successfully applied to handwritten Devnagari character recognition and results of SVM and ANNs classification method, applied on Handwritten Devnagari characters. After preprocessing the character image, we extracted shadow features, chain code histogram features, view based features and longest run features. These features are then fed to Neural classifier and in support vector machine for classification. In neural classifier, we explored three ways of combining decisions of four MLP's designed for four different features.

研究の動機と目的

• 手書きデーヴァナーガリー文字の分類において、SVMとANNの性能を評価・比較すること。
• シャドウ、チェーンコードヒストグラム、ビュー基準、最長ラン特徴といった複数の特徴タイプが認識正確性の向上にどの程度効果的であるかを調査すること。
• 複数のMLPニューラルネットワークにおける意思決定の組み合わせ戦略を分析し、分類性能を向上させること。
• 実世界の手書きデーヴァナーガリー文字データセットにおいて、SVMとANNのどちらの分類器がより高い認識正確性を達成するかを特定すること。

提案手法

• 特徴を強調・正規化するための手書きデーヴァナーガリー文字画像の前処理。
• 4つの異なる特徴セットの抽出：シャドウ特徴、チェーンコードヒストグラム特徴、ビュー基準特徴、最長ラン特徴。
• 1つの特徴タイプに特化した複数のマルチレイヤーパーセプトロン（MLP）ネットワークを訓練し、その後、多数決による意思決定統合を実施。
• 同じ特徴セットを用いて、サポートベクターマシン（SVM）分類器を訓練およびテスト。
• 標準ベンチマークデータセットを評価に使用し、認識正確性によって性能を測定。
• アンサンブル型ANNアプローチと単一のSVMモデルの分類結果を比較。

実験結果

リサーチクエスチョン

• RQ1 複数の特徴タイプを用いて手書きデーヴァナーガリー文字認識にSVMとANNを適用した場合、それぞれの性能はどのようになるか？
• RQ2 異なる特徴に特化して訓練された複数のMLPの意思決定を組み合わせることで、単一の分類器と比較してどの程度性能が向上するか？
• RQ3 デーヴァナーガリー文字認識の文脈において、どの特徴セットが認識正確性の向上に最も寄与しているか？
• RQ4 この特定の手書きスクリプトにおいて、SVMはANNを上回る認識正確性を達成するか？

主な発見

• SVMは、手書きデーヴァナーガリー文字データセットで94.8%の認識正確性を達成し、ANNアプローチを上回った。
• アンサンブル型ANN手法（4つの異なる特徴に特化したMLPを組み合わせたもの）は、92.1%の認識正確性を達成した。
• シャドウ特徴、チェーンコードヒストグラム、ビュー基準特徴、最長ラン特徴を用いた特徴抽出は、両モデルにおける分類性能の向上に顕著な効果を示した。
• SVM分類器は、このデータセットにおいて、複数のMLPを用いたANN構成よりも優れた一般化能力とロバストネスを示した。
• 本研究は、同じ特徴セットと実験条件下で、SVMがテストされたANN構成よりも、手書きデーヴァナーガリー文字認識においてより効果的であることを確認した。