[論文レビュー] Writer Independent Offline Signature Recognition Using Ensemble Learning

Sourya Dipta Das, Himanshu Ladia+2 more|arXiv (Cornell University)|Jan 19, 2019

Handwritten Text Recognition Techniques参考文献 1被引用数 8

ひとこと要約

本論文は、2つの特化した畳み込みニューラルネットワーク（Signet は一般特徴を、Signet-f は偽造の識別を目的とする）と正則化勾配ブースティングツリー、スタッキングを組み合わせたアンサンブル深層学習フレームワークを提案し、著者独立型オフライン署名検証の精度を向上させている。このモデルは、複数のクロスドメインデータセットで最先端の性能を達成しており、ベンガル語データセットでは94%、CEDARでは92%の精度を示しており、多様な script と偽造タイプにわたる頑健性を示している。

ABSTRACT

The area of Handwritten Signature Verification has been broadly researched in the last decades, but remains an open research problem. In offline (static) signature verification, the dynamic information of the signature writing process is lost, and it is difficult to design good feature extractors that can distinguish genuine signatures and skilled forgeries. This verification task is even harder in writer independent scenarios which is undeniably fiscal for realistic cases. In this paper, we have proposed an Ensemble model for offline writer, independent signature verification task with Deep learning. We have used two CNNs for feature extraction, after that RGBT for classification & Stacking to generate final prediction vector. We have done extensive experiments on various datasets from various sources to maintain a variance in the dataset. We have achieved the state of the art performance on various datasets.

研究の動機と目的

• 著者独立型オフライン署名検証の課題に対処すること。ここでは、本物の署名と偽造署名が著者内変動が大きく、各ユーザーの訓練データが限られている。
• 再訓練を各新しい署名者に対して行わずに、新しいユーザーにうまく一般化できる汎用的でスケーラブルなシステムを設計すること。
• 二重CNNアーキテクチャにより補完的な特徴を学習することで、熟練した偽造との区別を向上させること。
• 特にスタッキングと正則化勾配ブースティングツリーを用いたアンサンブル手法により、特化した特徴抽出器の出力に対して分類性能を向上させること。
• 異なるスクリプト（ヒンディ、ベンガル、英語）と偽造者タイプを有する多様なデータセットにおいて、モデルの頑健性を検証すること。

提案手法

• 2つの独立した畳み込みニューラルネットワーク（CNN）を訓練する：Signet は本物の署名のみで訓練され、著者に依存しない特徴を学習する。Signet-f は本物と偽造の両方の署名で訓練され、偽造を識別する特徴を学習する。
• 両方のCNNの最終層の特徴を抽出し、各署名について結合された特徴ベクトルを形成する。
• 正則化勾配ブースティングツリー（RGBT）分類器を結合特徴上に訓練する。過学習を防ぐために、学習率は0.1、最大木深さは3、推定器数は100とする。
• スタッキングを適用する。2つの分類器（Signet と Signet-f）の確率出力を用いてロジスティック回帰モデルを訓練し、予測確率を水平方向に結合して (n,2) 行列を作成した後、最終予測を行う。
• モデルは複数のベンチマークデータセットで67%の訓練 / 33%のテスト分割を用いて評価され、主な指標として精度が用いられる。
• データ前処理は、先行研究の手法に従い、既存の署名認識パイプラインとの整合性と一貫性を確保する。

実験結果

リサーチクエスチョン

• RQ1 二重CNNアンサンブルアーキテクチャは、単一モデルや特徴量ハンドクラフト手法と比較して、著者独立型オフライン署名検証の性能を向上させることができるか？
• RQ2 1つのCNNを本物の署名のみで、もう1つのCNNを本物・偽造ペアで訓練することで、偽造検出のためのより特徴的な学習が可能になるか？
• RQ3 特化した分類器（Signet と Signet-f）の予測をスタッキングすることで、多様なデータセットにおける全体の検証精度がどの程度向上するか？
• RQ4 提案されたアンサンブルモデルは、異なるスクリプト（例：ヒンディ、ベンガル、英語）と偽造者タイプを有するクロスドメインデータセットで、どのように性能を発揮するか？
• RQ5 実世界の銀行や認証システムで求められるように、わずかな署名サンプルしか持たない新しいユーザーに対しても、モデルは効果的に一般化できるか？

主な発見

• 提案モデルはベンガル語データセットで94%の精度を達成し、以前の最先端手法（SigNet：86.11%、Duttaら：84.90%）を上回った。
• ヒンディ語データセットでは86%の精度を達成し、Pal ら（75.53%）、Dutta ら（85.90%）、SigNet（84.64%）を上回った。
• CEDARデータセットでは92%の精度を達成し、グラフマッチングとSigNetの手法（100%）を除き、ほとんどの先行手法を上回った。
• Signetモデルは本物の署名の分類においてより効果的であり、Signet-fモデルは偽造の検出において優れた性能を示した。これは二重ブランチアーキテクチャの補完的設計が妥当であることを裏付けた。
• スタッキングによるアンサンブル戦略は、両分類器の長所を組み合わせることで全体の精度を顕著に向上させ、署名検証におけるメタラーニングの有効性を示した。
• モデルは多様なスクリプトと偽造タイプにわたって優れた一般化性能を示し、実世界のクロスドメイン展開環境における頑健性を示した。