[论文解读] Writer Independent Offline Signature Recognition Using Ensemble Learning

Sourya Dipta Das, Himanshu Ladia+2 more|arXiv (Cornell University)|Jan 19, 2019

Handwritten Text Recognition Techniques参考文献 1被引用 8

一句话总结

该论文提出了一种用于无作者依赖离线签名验证的集成深度学习框架，结合两种专用CNN（Signet用于学习通用特征，Signet-f用于伪造鉴别）与正则化梯度提升树及堆叠技术，以提升准确率。该模型在多个跨领域数据集上实现了最先进性能，包括在孟加拉语数据集上达到94%的准确率，在CEDAR数据集上达到92%，表明其在不同文字和伪造类型下的鲁棒性。

ABSTRACT

The area of Handwritten Signature Verification has been broadly researched in the last decades, but remains an open research problem. In offline (static) signature verification, the dynamic information of the signature writing process is lost, and it is difficult to design good feature extractors that can distinguish genuine signatures and skilled forgeries. This verification task is even harder in writer independent scenarios which is undeniably fiscal for realistic cases. In this paper, we have proposed an Ensemble model for offline writer, independent signature verification task with Deep learning. We have used two CNNs for feature extraction, after that RGBT for classification & Stacking to generate final prediction vector. We have done extensive experiments on various datasets from various sources to maintain a variance in the dataset. We have achieved the state of the art performance on various datasets.

研究动机与目标

• 为解决无作者依赖离线签名验证的挑战，即真实签名与伪造签名之间存在较高的类内差异性，且每位用户的训练数据有限。
• 设计一种通用、可扩展的系统，能够对仅有少量签名样本的新用户实现良好泛化，避免为每位新签名人重新训练模型。
• 通过双CNN架构学习互补特征，提升对真实签名与熟练伪造签名的判别能力。
• 利用集成技术——特别是堆叠和正则化梯度提升树——对专用特征提取器的输出进行处理，以提升分类性能。
• 在包含不同文字（印地语、孟加拉语、英语）和伪造者类型的多样化数据集上，验证模型的鲁棒性。

提出的方法

• 训练两个独立的卷积神经网络（CNN）：Signet仅在真实签名上进行训练，以学习与作者无关的特征；Signet-f在真实签名与伪造签名上同时进行训练，以学习具有判别力的伪造特征。
• 从两个CNN的最后隐藏层提取特征，并将它们拼接形成每个签名的联合特征向量。
• 使用学习率为0.1、最大树深为3、估计器数量为100的正则化梯度提升树（RGBT）分类器对联合特征进行训练，以防止过拟合。
• 通过堆叠技术应用集成：训练一个逻辑回归模型，对两个分类器（Signet和Signet-f）的概率输出进行处理，将它们水平拼接成一个(n,2)矩阵后进行最终预测。
• 采用67%训练/33%测试的数据划分策略，在多个基准数据集上评估模型，以准确率为首要指标。
• 数据预处理遵循先前工作的既定方法，确保与现有签名识别流程的一致性和兼容性。

实验结果

研究问题

• RQ1 与单模型或手工设计特征方法相比，双CNN集成架构是否能提升无作者依赖离线签名验证的性能？
• RQ2 仅在真实签名上训练一个CNN，而在真实-伪造对上训练另一个CNN，是否能带来更优的伪造检测特征学习？
• RQ3 对专用分类器（Signet和Signet-f）的预测结果进行堆叠，在多样化数据集上能在多大程度上提升整体验证准确率？
• RQ4 所提出的集成模型在包含不同文字（如印地语、孟加拉语、英语）和伪造者类型的跨领域数据集上的表现如何？
• RQ5 该模型能否在仅有少量签名样本的新用户上实现有效泛化，以满足现实世界银行和认证系统的需求？

主要发现

• 所提模型在孟加拉语数据集上达到94%的准确率，优于先前最先进方法如SigNet（86.11%）和Dutta等人（84.90%）。
• 在印地语数据集上，模型达到86%的准确率，优于Pal等人（75.53%）、Dutta等人（85.90%）和SigNet（84.64%）。
• 在CEDAR数据集上，模型达到92%的准确率，优于大多数先前方法，仅略低于图匹配和SigNet方法（均达100%）。
• Signet模型在分类真实签名方面表现更优，而Signet-f模型在检测伪造签名方面表现更佳，验证了双分支架构的互补设计。
• 堆叠集成策略通过结合两个专用分类器的优势，显著提升了整体准确率，证明了元学习在签名验证中的有效性。
• 该模型在不同文字和伪造者类型间表现出强大的泛化能力，表明其在真实世界跨领域部署场景下的鲁棒性。