[論文レビュー] Towards Efficient Unconstrained Palmprint Recognition via Deep Distillation Hashing

Huikai Shao, Dexing Zhong+1 more|arXiv (Cornell University)|Apr 7, 2020

Biometric Identification and Security参考文献 69被引用数 8

ひとこと要約

本稿では、深層ニューラルネットワークと知識蒸留を用いて、制約のない環境向けに軽量で効率的な掌紋認識手法であるDeep Distillation Hashing (DDH)を提案する。掌紋画像をコン actなバイナリコードに変換し、新しい蒸留損失関数を用いて小型の学生ネットワークを訓練することで、20,000枚以上のスマートフォンで撮影された画像を含む制約のないベンチマークで、最先端の精度を達成するとともに、等誤差率（EER）を最大3.11%まで低減した。

ABSTRACT

Deep palmprint recognition has become an emerging issue with great potential for personal authentication on handheld and wearable consumer devices. Previous studies of palmprint recognition are mainly based on constrained datasets collected by dedicated devices in controlled environments, which has to reduce the flexibility and convenience. In addition, general deep palmprint recognition algorithms are often too heavy to meet the real-time requirements of embedded system. In this paper, a new palmprint benchmark is established, which consists of more than 20,000 images collected by 5 brands of smart phones in an unconstrained manner. Each image has been manually labeled with 14 key points for region of interest (ROI) extraction. Further, the approach called Deep Distillation Hashing (DDH) is proposed as benchmark for efficient deep palmprint recognition. Palmprint images are converted to binary codes to improve the efficiency of feature matching. Derived from knowledge distillation, novel distillation loss functions are constructed to compress deep model to further improve the efficiency of feature extraction on light network. Comprehensive experiments are conducted on both constrained and unconstrained palmprint databases. Using DDH, the accuracy of palmprint identification can be increased by up to 11.37%, and the Equal Error Rate (EER) of palmprint verification can be reduced by up to 3.11%. The results indicate the feasibility of our database, and DDH can outperform other baselines to achieve the state-of-the-art performance. The collected dataset and related source codes are publicly available at http://gr.xjtu.edu.cn/web/bell/resource.

研究の動機と目的

• モバイルおよびウェアラブルバイオメトリクスシステムの評価に適した、現実世界の制約のない掌紋データセットの不足に対処すること。
• リソース制約のある組み込みデバイス上でリアルタイムの掌紋認識を可能にする軽量なディープラーニングモデルを開発すること。
• 知識蒸留およびバイナリハッシングを用いて、制約のない条件下での認識精度を向上させ、検証誤差率を低減すること。
• 14ポイントのROIアノテーションを備えた、20,000枚のスマートフォンで撮影された掌紋画像から構成される、公開可能なベンチマークデータセットを確立すること。

提案手法

• 5種類のスマートフォンブランドを用いて収集された新しい制約のない掌紋データセットで、20,000枚を超える画像と、領域の注目（ROI）抽出のための手動による14ポイントアノテーションを実施した。
• 掌紋画像をコンパクトなバイナリコードに変換することで、特徴マッチングの高速化と、ストレージおよび計算コストの削減を実現した。
• 大規模な教師ネットワークが、より効率的に判別的特徴を学習できるように、小型の学生ネットワークを指導する知識蒸留フレームワークを採用した。
• 教師から学生への特徴転送を強化するため、新しい蒸留損失関数を設計し、モデルの効率性と精度を向上させた。
• 学生ネットワークは、計算オーバーヘッドを最小限に抑えつつ判別的情報を保持するバイナリコードを生成するように最適化された。

実験結果

リサーチクエスチョン

• RQ1 軽量なディープラーニングモデルは、モバイルおよび組み込みプラットフォーム上で制約のない掌紋認識で高い精度を達成できるか？
• RQ2 知識蒸留は、パフォーマンスを損なわせることなく、ディープ掌紋モデルを圧縮するためにどの程度効果的か？
• RQ3 バイナリハッシングは、リアルタイムアプリケーションにおける掌紋マッチングの効率をどの程度向上させられるか？
• RQ4 本手法は、制約のないデータにおいて、既存のベースラインと比較して認識精度および等誤差率（EER）の観点でどの程度優れているか？

主な発見

• 提案されたDeep Distillation Hashing (DDH)手法は、ベースラインモデルと比較して、掌紋識別精度を最大11.37%向上させた。
• DDHは、制約のないベンチマークデータセット上で、掌紋認証の等誤差率（EER）を最大3.11%まで低減した。
• 14ポイントのROIアノテーションを備えた、20,000枚を超えるスマートフォンで撮影された掌紋画像から構成される新しいベンチマークデータセットは、モバイルバイオメトリクスシステムの現実的な評価を可能にした。
• DDHを用いて訓練された学生ネットワークは、組み込みデプロイメントに適した高い効率性を維持しながら、最先端のパフォーマンスを達成した。