[論文レビュー] Handwritten digit Recognition using Support Vector Machine

Anshuman Sharma|arXiv (Cornell University)|Mar 17, 2012

Handwritten Text Recognition Techniques参考文献 6被引用数 6

ひとこと要約

この論文は、HMM やハイブリッド NN-HMM システムといった従来のモデルがパターンのばらつきや歪みに対処できないという限界を克服するため、サポートベクターマシン（SVM）に基づく手書き数字認識手法を提案する。SVM がグローバルな相関関係を捉え、複雑なパターンに一般化できることを活かして、特に手書き数字に一般的な長さのばらつきや局所的歪みに対処できるようになり、認識精度が向上する。

ABSTRACT

Handwritten Numeral recognition plays a vital role in postal automation services especially in countries like India where multiple languages and scripts are used Discrete Hidden Markov Model (HMM) and hybrid of Neural Network (NN) and HMM are popular methods in handwritten word recognition system. The hybrid system gives better recognition result due to better discrimination capability of the NN. A major problem in handwriting recognition is the huge variability and distortions of patterns. Elastic models based on local observations and dynamic programming such HMM are not efficient to absorb this variability. But their vision is local. But they cannot face to length variability and they are very sensitive to distortions. Then the SVM is used to estimate global correlations and classify the pattern. Support Vector Machine (SVM) is an alternative to NN. In Handwritten recognition, SVM gives a better recognition result. The aim of this paper is to develop an approach which improve the efficiency of handwritten recognition using artificial neural network

研究の動機と目的

• 手書き数字のパターンにおける高いばらつきや歪みの課題に対処すること。
• 従来の HMM やハイブリッド NN-HMM システムを置き換えたり強化することで、認識効率を向上させること。
• SVM がグローバルな相関関係をモデル化できることを活かして、数字分類における一般化性能を向上させること。
• 手書きに一般的な長さのばらつきや局所的歪みに対する感受性を低減すること。
• SVM がニューラルネットワークや HMM に基づくアプローチよりも優れた認識性能を発揮することを示すこと。

提案手法

• 本研究では、手書き数字認識の主要分類器としてサポートベクターマシン（SVM）を採用する。
• SVM を用いて数字パターンのグローバルな相関関係をモデル化し、局所モデルよりも分類の区別能力を向上させる。
• 本手法は、HMM で用いられる動的計画法や局所観測モデルへの依存を回避する。
• 手書き数字から特徴表現を抽出し、SVM 分類器に供給する。
• 性能を評価するために、従来の HMM やハイブリッド NN-HMM システムと比較する。
• SVM の構造的リスク最小化の原則を活用して、一般化性能を向上させ、過学習を低減する。

実験結果

リサーチクエスチョン

• RQ1 SVM は、従来の HMM やハイブリッド NN-HMM システムよりも、手書き数字の認識で優れた性能を発揮できるか？
• RQ2 SVM は、手書き数字のパターンのばらつきや歪みに対して、どの程度効果的に対処できるか？
• RQ3 SVM のグローバルモデリング能力は、局所モデルと比較して、どの程度認識精度を向上させるか？
• RQ4 SVM は、手書き数字パターンにおける長さのばらつきに対して感受性が低いと期待できるか？
• RQ5 SVM は、手書き数字認識においてニューラルネットワークの代替手段として実用的で効率的と見なせるか？

主な発見

• SVM は、HMM やハイブリッド NN-HMM システムよりも優れた認識性能を示した。
• 本手法は、数字パターンのグローバルな相関関係を効果的に捉えており、分類のロバスト性が向上した。
• SVM は、HMM ベースのモデルよりも歪みや長さのばらつきに対して感受性が低かった。
• 複雑な動的計画法への依存を減らすことで、認識効率が向上した。
• 結果から、SVM はニューラルネットワークの代替として強力な選択肢であることが確認された。
• 本研究では、SVM を用いた分類が、実世界の手書き数字認識タスクにおいて、より優れた一般化性能と精度を達成できることを示した。