[论文解读] Online Signature Verification using Recurrent Neural Network and Length-normalized Path Signature

Songxuan Lai, Lianwen Jin+1 more|arXiv (Cornell University)|May 19, 2017

Handwritten Text Recognition Techniques参考文献 19被引用 5

一句话总结

本文提出了一种新颖的在线签名验证系统，结合循环神经网络（RNN）与长度归一化路径签名（LNPS）描述符，以提升性能。通过使用三元组损失和中心损失进行度量学习，RNN 学习到具有区分性的特征，最小化类内差异并最大化与熟练伪造签名的分离度，在联合训练多个数据集的情况下，于 SVC-2004 数据集上实现了最先进的 2.37% 等错误率（EER）。

ABSTRACT

Inspired by the great success of recurrent neural networks (RNNs) in sequential modeling, we introduce a novel RNN system to improve the performance of online signature verification. The training objective is to directly minimize intra-class variations and to push the distances between skilled forgeries and genuine samples above a given threshold. By back-propagating the training signals, our RNN network produced discriminative features with desired metrics. Additionally, we propose a novel descriptor, called the length-normalized path signature (LNPS), and apply it to online signature verification. LNPS has interesting properties, such as scale invariance and rotation invariance after linear combination, and shows promising results in online signature verification. Experiments on the publicly available SVC-2004 dataset yielded state-of-the-art performance of 2.37% equal error rate (EER).

研究动机与目标

• 通过解决较大的类内差异和熟练伪造签名问题，提升在线签名验证的性能。
• 开发一种新型特征描述符 LNPS，使其在经过线性变换后具备尺度不变性和旋转不变性。
• 设计一种基于 RNN 的系统，通过度量学习学习具有区分性的特征，最小化类内差异并最大化类间间隔。
• 通过联合训练实现在不同数据集之间的知识迁移，提升泛化能力和性能。
• 在基准数据集 SVC-2004 上实现最先进的性能。

提出的方法

• LNPS 描述符通过将路径签名中的迭代积分按路径长度进行归一化而获得，以实现尺度不变性。
• 使用大小为 W 的滑动窗口从签名中提取局部片段，并对每个片段计算至第 m 级的路径签名。
• RNN 系统使用三元组损失和中心损失，以最小化类内差异，并将熟练伪造签名推离真实样本的边界。
• 系统在多个数据集（SVC-2004 和 MCYT-100）上进行联合训练，以提升特征泛化能力和表征学习。
• 最终的特征表示是一系列输入 RNN 进行序列建模和分类的 LNPS 向量。
• 决策过程采用余弦相似度阈值，以区分真实签名与伪造签名。

实验结果

研究问题

• RQ1 像 LNPS 这样的新型描述符能否提升在线签名验证的鲁棒性和区分能力？
• RQ2 基于 RNN 的系统结合度量学习能否在在线签名验证中超越传统的 DTW 和 HMM 方法？
• RQ3 在多个数据集上进行联合训练是否能提升 RNN 系统的泛化能力和性能？
• RQ4 LNPS 描述符在多大程度上实现了签名表征中的尺度和旋转不变性？
• RQ5 所提出的系统能否在 SVC-2004 基准上实现最先进的性能？

主要发现

• 所提出的 RNN 系统结合 LNPS 在 SVC-2004 数据集上实现了最先进的等错误率（EER）2.37%。
• 与 MCYT-100 数据联合训练后，EER 从无外部数据时的 3.58% 降低至 100 个 MCYT-100 客户端时的 2.37%。
• 仅使用 x-y 坐标，系统性能优于以往使用额外特征（如压力）的方法。
• 随着训练数据增多，EER 下降，表明系统具有强大的数据可扩展性及迁移学习潜力。
• 系统在未见客户上的真实签名与伪造签名得分表现出紧密且可分离的分布，尽管部分客户存在得分重叠。
• LNPS 描述符表现出良好特性，包括尺度不变性与线性组合后的旋转不变性，增强了鲁棒性。